AI版女网红，向全国“老实人”宣战 观点

作者 | 虫二

来源 | 视觉志

(资料图片)

这几天，有一条爆炸新闻被娱乐圈桃红的艳闻，网红们赚眼球的奇葩操作压得毫无热度。

隐匿在各路热搜之下，却难掩骇人听闻的本质：

“10分钟，骗走当事人430万元巨款。”

有一天，老郭突然收到朋友打来的一通微信视频电话。

电话里，朋友口口声声称自己在外地竞标需要430万元的保证金，想要通过老郭的公司账户走款。

视频里对方向老郭要了银行卡号，发了汇款截图说自己已经把钱转过去了。

朋友真真切切地在屏幕对面给出承诺，老郭既没起疑心，也没仔细核实，直接就把430万打了过去。

挂了电话，老郭随手把转账截图发给了朋友，说事已办妥，对方却回了老郭一个「 ？」。

到这一步，老郭猛然意识到不对劲，可惜为时已晚。

在骗子的巧言令色下，一笔巨款竟是经自己亲手操作转出去的。

图注：警银联动，目前已经追回部分钱款

究竟是我们太不小心，还是骗术实在嚣张？

怎么就能在双方都没有发觉的情况下完成即时通讯，还要做到不光容貌、表情与真人无二，就连语言风格、声线特点都被完美复刻？

细思，极恐。

如今，在这个万物互联的时代，之所以人人闻诈骗色变，正在于其发展之迅猛让人避无可比。

面对天花乱坠的骗术，多一次打破边界的认知，就是多一分的安稳。

不止一桩

“小王，我表姐阑尾炎住院了，借我3800，过几天就还！”

刚收到同学的求助消息时，小王还留了个心眼儿。这年头谁会突然QQ借钱啊，他一心觉得对方被盗号了是个骗子。

对方没等小王做回复，倒先自顾自说了起来。

称自己微信里没那么多钱想周转一下，还说自己已经给小王的银行卡转了3800，顺便就把转账截图一并发来了。

图源：澎湃视频

可小王看到截图的银行卡尾号和自己的无二，就去查了一番，可自己的银行卡根本就没有收到这笔钱。

小王担心自己被骗，但又真的怕耽误了同学的大事，想着可能是转的钱只是没及时到账，就提出要和同学打个视频来证实猜想。

没过两声视频就被接通，对方就是他同学，上来说了一句“你干嘛”，就没了声音，小王让他说话，对方就推辞“网太卡，讲不了”。

尽管这对话里充斥着奇怪，小王还是没有多想，确定了对方没被盗号就按照要求把钱转了过去。

除了诈骗的由头不一样，其余的一切几乎与老郭的遭遇完全重合。

高科技犯罪的面纱之下，连脸和声音，都不能当做一种保障。

当身份的证明变得不那么可信，我们又能相信什么呢？

可悲的是，利用最新兴的前沿科技犯罪的，绝不止有这一种。

甚至，你屏幕对面正热聊的人发来的照片都是用科技合成的，而你却分辨不出。

AI绘画经过短时间内的飞速发展，已经能通过短短几个关键词就能生成一副与照片几乎无差别的绘图。

图源：社交平台上由AI绘画创作的虚拟博主

无论对方提出什么要求，利用AI绘画就能做到实时出图。

拿捏这一特点加以利用，就变成了杀猪盘和亲属诈骗最好的诱饵。

至于上不上钩，不仅取决于受害者的戒备，更在于诈骗方提供信息的可信程度。

只要足够真切，足够紧急，就能骗到人。

当然，还有一种最常见的，要属情色诈骗。在高科技的加持下，这条黑路子，越来越好走。

苏州警方曾破获的一起“游艇派对诈骗案”，是国内首个AI绘图诈骗案。

宣传语直白又露骨：“派对一对一配备青春火辣女仆贴身服务，酒水美食随便吃，跳海优惠价只需3000元。”图片上的美女更是风格各异，身材火辣似建模。

这张海报流传在全网，有人扫了码才发现要想参加活动就要先交定金。等到你犹豫不决的时候，对方发来一份文件，文件里都是大尺度的诱惑照片。

随着热度的攀升，有人发现了端倪，所有的人手部分都呈现出诡异的扭曲。

随后也有专业人士指出，这幅海报所有照片均是由AI绘画所产出。

在全网范围内散布虚假的情色信息，榨取无知网民的钱。

一幕又一幕屡见不鲜的案例，无一不在证实着黑恶势力作恶手段的高科技化。

而当科技面向大众普及，又会生出多少难以抵挡的恶呢？

​

犯罪成本

当AI换脸等新兴技术手段正加速运用到日常生活，我们不得不承认，犯罪成本正呈现断崖式下跌。

一则#你愿意花30元和AI半藏森林视频通话吗#的词条登上微博热搜，揭露了AI产品的捞钱密码。

半藏森林是名小有名气的网红，清纯的脸蛋和曼妙身材的反差引得无数网友的疯狂追捧。

产品的开发者深谙人性深处的陪伴需求，这款软件不仅真实的模拟了网红半藏森林的真人版朋友圈，更有24小时视频陪聊的服务。

有美女全天候一对一实时陪聊，谁能拒绝？

而这一切当然不是“慈善”，不过都是些明码标价的恶臭交易。

每个月只要6元，就能“享受”到AI美女的24小时语音秒回。更有30元包月的加强模式，实现随时随地的视频通话。

真的这么神奇吗？半藏森林本人知道吗？开视频难道不会盗取用户的个人隐私吗？

安全问题还没得到保障，体验感首先就不达期望。

有网友体验后抱怨视频通话里半藏森林的口型和说出的话完全对不上，就好像在看全程配音的蹩脚电视剧。

无论是任何话题、任何语气，视频对象的脸上永远挂着的是同一副淡漠表情。

和体验感相对着的，是隐藏在软件评论区里更为隐秘的交易链——

“软件会窥屏，不仅会看你的相册，还会抓取关键词顺藤摸瓜扒出你的一切个人信息。“

“太恐怖了，给你回消息的是真人和机器替换着来的。会问你很多奇怪的问题，甚至还会喊你转账！”

不仅赚了你的钱，还有可能被狠狠捞上一笔隐私债。

AI技术已经被运用在我们的日常生活，换脸学说也成就了一些人的流量密码。

可是高新科技犯下的恶远比我们想象的还要近，还要猖狂。

年过半百的大姐迷恋上合成靳东的消息还在昨天，新入坑的大妈又再次出现在虚拟的互联网之上。

在并不了解互联网、上了年纪的人眼中，换脸、剪辑、合成，一切的科技痕迹都不存在，只有一颗真心的召唤。

尽管风险之大难以估量，还是有人愿意用换脸明星来换取流量。

无论是视频平台爆火的AI孙燕姿，还是直播间里带货的AI杨幂，如此“以小博大”擦边行为的猖獗，无外乎印证了换脸操作的成本之低。

在购物平台搜索关键词，会跳出成百上千个声称“AI换脸视频直播教程，帮你换成别人模样还能直播撸钱”的教学软件。

只需要4块钱不到，完全没有基础的人也能操作。

曾有官媒曝光，合成一个动态视频的成本不超过10元，针对大型的直播平台支持实时换脸的全套模型也只需3.5万。

再打开各大视频软件搜索换脸，可以学到一系列的免费教程。

技术带来正向热度的同时，几乎伤不到筋骨的低廉成本更是直接催生出阴暗角落的罪恶，接踵而来的欺诈与色情向全网席卷。

前段时间，“女孩一丝不挂搭乘地铁”的照片在全网疯传。

据报道，是有人利用“一键脱衣”的软件对照片进行操作，将裸体“移植”到了女孩的身上。

纵然低劣的p图漏洞百出，可脏水泼在身上就是百口莫辩的。

下流的话语攻击着被人肉出来的女孩，在流量的狂欢下没人去在意她的名誉。

罪恶，一直在身边。

有数据显示，类似一键脱衣、一键换脸的软件，一经开发就遭到网民们的疯狂下载。

利用AI造黄谣，可太方便了。

在犯罪成本如此之低的互联网时代，谁都能是被侵犯的主体，谁也都能做那个藏在科技手段背后的恶毒杀手。

​

骗术的进化

新闻刚曝光的时候，网上哗然一片。

“以后不要在网上发自己的照片，接到陌生电话也千万别出声。”

有人惊恐，有人张皇，有如惊弓之鸟般想尽办法避免自己成为被坑害的那一个。

不怪网友“怕井绳”，实在是骗术的进化，太迅猛了。

至今，小视仍记得2016年震动全国的“徐玉玉案”，彼时电信诈骗还并不被人熟知。

图源：沂蒙晚报

尽管徐玉玉高考发挥失常，仍然考了568分，比一本线高出了快40分。

徐玉玉的家庭并不富裕，父亲是名瓦工，有活就干没活只能歇着，月均三千的收入来得极不稳定。

加上母亲有身有残疾根本无法干活，全家的担子都落在父亲的头上。

可供养两个孩子，还是无力的。中年男人把烟酒花钱的嗜好都戒了，也只是勉强撑着这个家。

所有的一切徐玉玉都看在眼里，仔细计算着每一笔钱，小小的年纪懂事得很。

高中时期的她每个月只有两百块钱的生活费，但她还是能攒下来一大笔。

图源：央视新闻

“你有一笔两千六百八的学生助学金，如果要领取的话，今天是最后一天了，你需要跟某某财政局工作人员联系，电话号你记一下。”

刚上大学的徐玉玉接到诈骗电话的时候也没多想，就按照自称是教育局工作人员告诉的号码，拨了过去。

倒不是徐玉玉没警惕，实在是前几天刚接到教育部门的电话，办理完助学金的相关手续，被告知没几天钱就能发下来。

诈骗犯让徐玉玉在20分钟内赶到ATM机旁，按照对方的提示操作了一通，但没能成功，骗子就趁势问她身上是否有其他的银行卡。

徐玉玉身上刚好一张用来缴学费的卡，里面是父亲刚刚凑齐的小一万。

骗子拿捏着徐玉玉刚上大学的懵懂，骗她说银行卡还未激活，需要先取出9900，把钱款汇入指定账号。

半个小时内，这笔钱就会连同助学资金一起回到徐玉玉的账上。

可徐玉玉站在那干等着，等到天色渐晚也没有收到那笔钱。回拨给对方，却只有关机的通知。

意识到被骗的徐玉玉如遭五雷轰顶，一万块钱对于她的家庭来说是近乎是大半年的紧衣缩食。

报完案的徐玉玉，坐在父亲的三轮车上不省人事，经紧急抢救，仍不幸离世。

可怜徐玉玉，寒窗十数载却没能等来踏入大学校门的那天。

如今回过头来，再重新审视骗局，手法本不高明，却在犯罪分子环环相扣的剧本陷阱和配合下，让这场犯罪行为变得愈发可怖。

有人扮演教育局的工作人员，有人冒充财政局的公职人员，有人早就守在ATM机旁等候着。

蛰伏在黑暗里，用编造好的话术，等待一个又一个徐玉玉的出现。

在骗子的剧本里，不仅兼顾情绪安抚，对不同的对象还有着不同的话术要求。

春运期间做票务诈骗，黄金周前搞“护照申请”，等到了开学季就专注于骗学生和家长。

也许今天的我们，不会再轻易掉入这些早已过时的烂俗剧本。

但在频繁翻新的骗术和不断完善的灰色产业链面前，我们未必不是下一个徐玉玉。

时代发展得太快，高新科技也为诈骗的新剧本提供着源源不断的新内容、新手段。

图注：AI语音合成转换流程

2019年5G兴起，2020年智能驾驶横空出世，2021年走红了元宇宙的概念，去年AI绘画遍地开花，今年又流行起了Chat GPT。

“超级风口”总是不停在涌现，谁又知道不法分子准备用来做什么？

2016那一年，快播的创始人犯传播牟利罪锒铛入狱，一句“技术无罪”引发全民不满。

王欣出狱的那天，在他一直坚持的观点上，加上了半句话——技术是无罪的，但人会犯错。

技术也是发展的必然，可人也有良莠。

我们无法去消灭全部的恶，但只要我们对骗术再多一分了解，对不确信之事再多一点警惕。

如此，就能让猖獗的气焰再熄灭一寸。

一寸，再一寸。

监制：视觉志

编辑：虫二

微博：视觉志

点击「视觉志」阅读原文

标签：