割韭菜！AI换上名人脸，加拿大人半年已被骗$282500000刀

据温房网综合报道：深度伪造技术（Deepfake）出现并在网络逐渐流行已经有几年了。一些有识之士也一直在对这项技术可能被用于诈骗甚至犯罪提出警告。现在，这些警告终于不再是杞人忧天式的空穴来风。因为，“狼”真的来了。

最具标志性的深伪技术就是通过AI的帮助进行换脸，辅以声音模仿，可以轻松地将视频的主角换成任何一位名人。

这类视频最早的一次病毒式传播是在2018年。当时演员兼导演Jordan Peele与 BuzzFeed News 合作，发布了一条公共服务公告，Peele在其中模仿了美国前总统奥巴马。 当时，这个视频需要使用两个计算机程序、花费56 个小时才能制作完成。

如今，各种知名人士兜售虚假服务的深伪视频已经开始在脸书、抖音和油管等主要社交媒体平台上引起关注。

人们可以在油管上看到家喻户晓的新闻主播在卖力宣传生产大麻的公司，或者看到全球首富马斯克在鼓吹好得令人难以置信的投资机会。

不管看起来多么逼真，这些视频都是经过深度伪造的。

加拿大反欺诈中心 (CAFC) 的客户和通讯官Jeff Horncastle警告加拿大人，视频和音频诈骗正在不断增加。这些诈骗利用名人的形象来宣传欺诈性加密货币平台和进行其他诈骗。“欺诈者所需要的只是来自他们想要深度伪造的人的一点音频，可能是照片或简短的音频剪辑。”

已经有人上当受骗。目前虽然没有具体数据表明有多少加拿大人因深伪内容而遭受诈骗，但 CAFC 在2022年报告称，加拿大人因欺诈损失总计5.31亿加元。 截至6月，加拿大人今年损失了2.835亿加元。

知名度越高的公众人物，越容易成为被模仿的对象。

近期的深伪视频中，马斯克的出镜率是最高的。因为他过去曾推广过一些加密货币，导致他在诈骗者中非常受欢迎，但没有证据表明马斯克与这些视频有任何关系。

 

人工智能让诈骗更难被防范

尽管深伪视频背后的人工智能技术并不新鲜，但危险的是相关的技术越来越先进，同时使用这些技术的门槛越来越低。

技术专家Mark Daley指出，除了极其逼真之外，这些深伪视频最可怕的一点是，技术只会变得越来越好，使人们更难识别“李鬼”。

“记住这一点：你现在看到的深伪赝品将是你此生中见过的最差劲的。它们只会变得更好。”

Daley解释说，过去五年来，技术进步不断加强，因为创建深度伪造内容过去需要高技能的人才使用专门的技术软件。 而现在，任何具有一般人工智能知识并能使用游戏计算机的人都可以通过模仿知名人物来传播错误信息。

研究深度造假技术的亚利桑那州立大学计算机科学教授 Subbarao Kambhampati 表示，任何拥有电脑或智能手机的人都可以使用能够实时创建具有一定说服力的深度造假的应用程序。

但人工智能依然需要真人的训练才能成功进行模仿，所以已经成名的公众人物是最容易被模仿的对象，毕竟互联网上已经充斥着他们的视频和音频，素材的取得轻而易举。

实际上，深伪视频已经不再是此类骗局的最前沿版本。现在已经有诈骗者使用实时深度伪造程序来模仿名人与潜在受害者进行视频通话。

佐治亚州立大学循证网络安全研究小组主任 David Maimon 表示，他和他的研究人员已经看到了创建实时深度伪造的在线教程。

这些教程教潜在的诈骗者使用两部智能手机：一部在运行实时深度伪造应用程序时指向自己的脸，另一部则距离几英寸远，与受害者进行视频聊天。

这种诈骗伎俩的破坏力很大。对于大多数普通人而言，当偶像降落凡尘，与你侃侃而谈，并希望成为你生活的一部分时，所有的理智和常识可能都会飞到九霄云外。

心理治疗师兼科技记者Georgia Dow还注意到这些虚假内容可能导致严重后果。例如，捏造的视频可能会加剧人们对某些群体和个人的仇恨，或者让他们相信自己最喜欢的名人真的这么说过。

这项技术还可能被用于重要的政治事件。明年美国将迎来四年一度的总统大选。现在有些潜在候选人已经看到了自己反对竞选活动的视频。例如，目前正在寻求共和党提名的佛罗里达州州长Ron DeSantis上周在一段深度伪造视频中宣布他将退出竞选。

已经有一些专家警告称，第一次“深度造假选举”将于明年到来，届时大量选民将在网上看到虚假政治视频，而无法确定它们是否真实。

 

如何识别深伪内容？

最近，谷歌宣布将使用自己的技术为人工智能生成的图像添加水印警告，以阻止虚假声明和照片。脸书也称正在对人工智能合成的内容进行追踪。油管也删除了一些靠虚假信息牟利的视频。但是，这些手段并不足以对阻止虚假信息的传播。

作为诈骗者的目标，普通人也需要提高防范意识。专家表示，一些迹象可能表明视频是伪造的，例如音频与说话人的嘴部动作不匹配、不自然的眼球运动，以及说话者头面部与背景中的灯光存在差异等等。

此外，视频主角的“轮廓”与背景的交界处也应引起特别注意，尤其是头发和脸部周围的区域，一些细小的不匹配在说话人移动时更为明显。

最后，理性思考，不要迷信名人效应，尤其是推销的产品或者宣传形式与公众人物一贯的风格不相符时，更要先打一个问号。

在决定购买这些产品之前，最好先研究一下背后的公司，这样可以深入了解它们的合法性以及你的钱到底会流向哪里。

来源：温房网综合