专注金融科技与创新

专注金融科技与创新
专栏国内资讯金融信息服务

世界首例AI诈骗案,如果发生在中国...

专栏国内资讯金融信息服务

世界首例AI诈骗案,如果发生在中国...

本文共2480字,预计阅读时间49

2019年9月6日英国百年老报《每日邮报》(Daily Mail)报导了世界第一起AI语音模仿软件“成功”诈骗22万欧元的案例,一时间各国舆论哗然。

在AI技术突飞猛进的中国,我们大胆预测未来必然出现AI智能犯罪的情形,比起臆测一个类人机器人,不如踏踏实实研究这些学习软件真正会造成哪些危害?如何规制与预防?

一、故事是这样的

今年3月,英国某能源公司CEO接到了自己大老板的电话,这位大老板base在德国讲英文有明显的德国口音,电话内容:要求立刻给匈牙利某供应商转款22万欧元,并将转账信息以邮件形式发送;转款理由是避免缴纳滞纳金。

由于德国大老板的口音十分逼真,英国CEO信以为真,在1小时内转款完成,后发现被骗,遂至案发,后保险公司赔付时将此案揭开。

如果在中国,这可能是常见的“电信诈骗”的一个智能变种。

我国以往电信诈骗案件的特点比较突出:

1. 犯罪对象相对文化层次较低,即所谓博“傻”,这个词有点不礼貌,但是说出了中国式电信诈骗的精髓,诈骗分子会故意操南方口音“广撒网”,一般认知水平较高的人会被筛选掉(一听就觉得不可信),但有些朋友可能会深信不疑,经过与骗子的多次通话,被话术洗脑,最终“自愿交付财产”。

2. 除资金转移有点技术含量,作案手段比较拙劣,一般采用打电话、QQ等方式,骗取被害人信任,从而施骗。

3. 抓捕困难,根据之前判例境外诈骗分子为数不少。

二、如果在中国,会怎样?

读者朋友,我们一起想象一下,现在我国跨区域经营的企业比比皆是,如果上海总部财务总监给东北大区财务负责人打电话,要求提前1天回笼本地分销商的沉淀资金,双方通了电话,且电话号码无误,声音无比熟悉;如果此时还有邮件发来(对于黑客而言并不难办到),那么,事情会怎样?

高概率这位东北大区财务负责人会被骗,明明是糯糯的沪音,明明是“好的呀”这样的口头语,明明是总部财务老大的手机号,明明发来了正式邮件,怎么可能错?

我们不能苛求被害人像福尔摩斯一样check顶头上司的人脸,或者很难苛求被害人短时间内与其他同事二次确认。法律不能强人所难。

以我们对内地民营企业的了解,他们对于保险的态度十分保守,也许实践中早就出现过类似案例,但“家丑不可外扬”,英国案件也是在保险公司的披露下才被公众发现。

如果在内地,即便是有AI诈骗第一案,不到法院审判都很难进入公众视野,各方都担心进入舆论漩涡,还不如“破财免灾”。世上的恶人都是怂人惯出来的(郭德纲2016),这句话有道理。

三、罪名及刑期

很显然,如果英国AI诈骗案发生在中国,也是一桩刑事案件。我们使用的罪名也是诈骗罪,法律渊源是《刑法》第266条。

法律条文非常简单:诈骗公私财物,数额较大的,处三年以下有期徒刑、拘役或者管制,并处或者单处罚金;数额巨大或者有其他严重情节的,处三年以上十年以下有期徒刑,并处罚金;数额特别巨大或者有其他特别严重情节的,处十年以上有期徒刑或者无期徒刑,并处罚金或者没收财产。

您可能会问?到底多少是数额较大、巨大、特别巨大?直接给您答案:3000元-10000元以上是数额较大(根据各地经济形势不同,起刑点从3千到1万不等,不足3万的都在这个档);3万-10万以上是数额巨大;50万元以上是数额特别巨大。

关于情节问题:以赈灾捐款为名诈骗;骗残疾人、老年人、丧失劳动力的人;造成被害人自杀、精神失常或其他严重后果的。

四、AI犯罪的上下游

如果只讲到在中国怎么判刑,那还没有真正拨开AI犯罪的迷雾。

飒姐关心的是AI机器人学习某人的声音,到底是从哪里获得了数据源,对,数据源头是谁?用什么手段?是否有非法买卖公民个人信息问题?

2017年6月1日我国颁布《中国人民共和国网络安全法》,对于网络安全的支持与促进发挥了切实作用,在监测预警与应急处置方面的表现也很突出。

然而,就是有一部分无良手机、电脑厂商,疯狂攫取民众的个人信息,包括行踪轨迹、身份信息、健康情况、家庭成员信息等;更有甚者打着精准投放广告的幌子,骗取我们开启“麦克风”,这就像一个窃听器一样时时刻刻监督着我们;还有各类手环,名为手环实为定位回传数据的小黑盒;甚至一些海外企业打着各种调研名义,在我国大肆收集公民个人信息。

我国早在2013年2月就正式实施了《信息安全技术公共及商用服务信息系统个人信息保护指南》,2017年4月《个人信息和重要数据出境安全评估办法》公开征求意见,2017年6月《最高人民法院、最高人民检察院关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》等文件和司法解释。

中国人的个人信息并不廉价,也不像某些商界巨子说的中国人不在意自己的隐私,给点利益就轻易出卖自己的信息。我们是匮乏个人信息保护意识,不知道公民个人信息保护的重要性。

随着骚扰电话的轰炸,越来越多人反对公民个人信息的滥用,近三年来,我们接到的侵犯公民个人信息案件逐渐走高(详见我国《刑法》第253条之一侵犯公民个人信息罪)。

写在最后

昨天有幸参加了北大校友“燕缘雄芯”科技创新论坛,席间与多位北大才子沟通,发现大家的创业项目已经离不开“数据”“分析数据”“数据周边服务”,闺蜜说,瞧瞧这些CEO听飒姐谈起公民信息保护,眼睛马上就发光。

回来我就反思,大数据在中国当下科技创新中起到关键作用,如果数据来源脏了,势必引起后续创业项目的发展甚至生存(不乏有获罪案例);如何才能让大家用上干净的数据,或者说法律是否应该给出明确定性:怎样的脱敏之后,就不会再被追诉或者“变相”,我们实在被模糊的说辞弄怕了。

国民预测性,必须由法律保障,否则法典就是废纸,根本不会被涌动的新生的力量尊重。

当然我们也反对欧盟的那一套,把法律当成工具,成了宰割外国企业的利刃。

我们要用刑法构筑行为底线;用民商法权衡各方金钱等利益;用行政法来设置门槛和赛道之间的规矩;用国标来倡导良性竞争。

本文系未央网专栏作者肖飒发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!

用微信扫描可以分享至好友和朋友圈

扫描二维码或搜索微信号“iweiyangx”
关注未央网官方微信公众号,获取互联网金融领域前沿资讯。

发表评论

发表评论

您的评论提交后会进行审核,审核通过的留言会展示在下方留言区域,请耐心等待。

评论

您的个人信息不会被公开,请放心填写! 标记为的是必填项

取消

肖飒未央青年

368
总文章数

中国银行法学研究会理事,中国互联网金融协会申诉委员,主要从...

ZAO热的“造”热深逻辑

孟永辉 09-03

通过AI,人类进入了可以支配未来财富的时代

雷涛 09-03

“AI+”将比“互联网+”落地更容易

靠谱的阿星 08-31

Fecebook成立AI语言研究联盟,或与亚马逊Alexa基金抗衡

Kyle Wigge... 08-30

AI行业中的无限战争,企业如何破局盈利?

子雨 08-29

版权所有 © 清华大学五道口金融学院互联网金融实验室 | 京ICP备17044750号-1