内容摘要：“AI马斯克”泛滥：口型和声音都高度吻合，甚至还有南非口音！普通人几乎无法辨别，82岁老人被骗近500万元毕生积蓄2024年08月17日 22:09每日经济新闻缩小字体放大字体收藏微博微信分享0腾讯Q

“AI马斯克”泛滥：口型和声音都高度吻合，克泛甚至还有南非口音！滥口老人普通人几乎无法辨别，型和蓄 82岁老人被骗近500万元毕生积蓄 2024年08月17日 22:09 每日经济新闻 缩小字体 放大字体 收藏 微博 微信 分享 0 腾讯QQ QQ空间

　　每经记者 蔡鼎 每经编辑 高涵

　　随着人工智能（AI）的声音生积发展迭代，生成式AI正以前所未有的都高度吻速度重塑着日常生活，但由此衍生出的合甚乎无新骗局、新套路也在刷新人们对风险防范的至还认知。这背后不仅关乎广大消费者的有南音普元毕财产安全，还潜藏着人身安全的非口法辨风险和隐患。

　　近日，通人外媒曝光了一种全新的别岁被骗数字诈骗，诈骗犯利用复杂的近万AI工具制作特斯拉CEO马斯克等名人的视频，并利用这些“AI名人”对各种虚假的克泛产品或“投资”进行背书，并承诺高额投资回报。滥口老人

　　在其中一个典型案例中，型和蓄“AI马斯克”背书的一家所谓的外汇公司轻松骗走了一名82岁的退休老人超过69万美元（约495万元人民币）的毕生积蓄。

　　在这类骗局中，诈骗犯通常先寻找一个真实的采访马斯克的视频，再使用AI工具将他的声音替换，并利用口型同步技术编辑马斯克的口型，让视频看起来更加真实。对于普通人来说，这种以假乱真的视频可能是非常难以辨别的。

　　除了马斯克外，“股神”巴菲特和亚马逊创始人杰夫·贝索斯等也是常出现在这类诈骗视频中的名人。

　　“AI马斯克”泛滥，生成仅需几分钟，却有人被骗近500万元

　　最近几个月来，成千上万个由AI驱动的视频在互联网上泛滥，这类视频被称为“深度伪造（deepfakes）”。根据德勤的估计，AI驱动的“深度伪造”视频/广告预计每年将造成数十亿美元的欺诈损失。

　　然而，这些视频的制作成本只有几美元，几乎可以忽略不计，而且可以在几分钟内完成。这类视频由于名人效应在社交媒体上被广泛推广，包括Facebook上的付费广告，扩大了它们的影响范围。

　　骗子们会从一段真实的视频开始，比如下面这段来自《华尔街日报》的采访马斯克视频，提问者是该报一名编辑Thorold Barker，他的声音也出现在视频片段中。

图片来源：《华尔街日报》

　　在“深度伪造”视频中，马斯克的嘴部动作用唇部同步技术进行了编辑，这种技术可以调整一个人的说话方式。骗子还会用语音克隆工具添加AI声音，这种工具可以从样本中复制任何他们想要的声音。因此，最终的视频对于普通的互联网用户来说，可能相当有说服力。

　　已有人因此上当受骗，82岁的退休老人Steve Beauchamp便是典型案例。据外媒报道，去年年底，82岁的退休老人Beauchamp观看了一段视频广告。视频中马斯克支持一个承诺快速回报的激进投资机会，口型与声音都高度吻合，还融入了马斯克标志性的南非口音，看起来极为真实。于是，Beauchamp联系了该广告背后一家名为Magna-FX的外汇公司，开设了一个248美元的账户。经过数周的一系列交易，Beauchamp耗尽了他的退休账户，最终投资了69多万美元（约合495万元），而这些钱都被卷走了。

　　另据非营利性消费者权益组织美国商业促进局的一份报告，一名得克萨斯州人表示，他在看到马斯克于2023年2月在所谓的YouTube“直播”视频中发言后，损失了价值3.6万美元的比特币。其称，“我把比特币发送了出去，却再也没有收到任何东西。”

　　负责监控和检测“深度伪造”的公司Sensity分析了2000多个深度伪造视频后发现，到目前为止，马斯克是这类视频中最常见的“AI形象”。具体来说，自去年年底以来，“AI马斯克”出现在近1/4的“深度伪造”骗局中。而在加密货币相关的“深度伪造”视频中，他出现的频率甚至高达90%。

　　对此，研究加密货币社区的专家表示，马斯克在全球拥有独特的粉丝群，其中包括保守派、反建制派和加密货币爱好者，这类群体往往会被另类的发财途径所吸引，这也使他们成为数字诈骗犯的完美目标。而且这类群体中，年纪较大的互联网用户往往更容易成为诈骗犯的目标，这类群体对加密货币、AI和马斯克都非常熟悉，但他们的警惕性往往不足。

　　除了马斯克外，“股神”巴菲特和亚马逊创始人杰夫·贝索斯等也是常出现在这类诈骗视频中的名人。

　　AI技术成诈骗工具，Facebook和Youtube是重灾区

　　外媒报道中称，目前来看，很难量化到底有多少“深度伪造”视频在网上流传，但在Facebook的广告库中搜索这些骗局的常用关键词，能搜索到数十万个广告，其中许多都包含“深度伪造”视频。

　　尽管Facebook已经删除了许多违反其政策的视频，并关闭了一些账户，但其他视频仍在网上流传，而且似乎每天都有更多的视频出现。不仅是Facebook，YouTube上也充斥着这些造假视频，而且通常使用“直播（live）”标签。但事实上，这些视频是预先录制的”深度伪造”视频。

　　YouTube在一份声明中说，仅今年一季度，就删除了超过1570万个频道和超过820万个视频，这些内容大多因违反其反垃圾邮件政策而被删除。

　　这类“深度伪造”广告的盛行还导致澳大利亚亿万富翁Andrew Forrest提起民事诉讼，控告Facebook的母公司Meta在广告业务运营方面存在疏忽。他认为，Facebook的广告业务诱使“无辜用户进行了错误的投资”。Meta则表示，其正在培训自动检测系统，以捕捉其平台上的欺诈行为，但同时也提到，资金雄厚的欺诈者会不断变换策略以逃避检测。YouTube则表示，其政策禁止欺诈和篡改视频，并于今年3月要求创作者在使用AI创作真实内容时必须披露。

　　事实上，数字诈骗并不新鲜，但自去年AI工具开源后，新一波“深度伪造”视频井喷。

　　今年早些时候，美国联邦贸易委员会（FTC）和FBI也发出警告称，AI驱动的网络犯罪和深度欺诈正在上升。FBI表示，“犯罪分子正在利用AI让网络攻击和其他犯罪活动更有效，更难以被发现”。

　　“深度伪造”视频并不完美，甚至在一些视频中，“AI马斯克”的嘴型都对不上，但有专家表示，对于一些诈骗犯的目标群体来说，他们制作的视频似乎足够有说服力，而且一直在改进。

　　此外，一些骗局还经常宣传虚假的人工智能软件，称它们可以产生可观的投资回报。诈骗犯以此诱使目标受众一开始只投一小笔钱（大约250美元）。随后，骗子不断宣称投资会升值，人们往往慢慢被引诱投入更多资金。

　　被骗了毕生积蓄的Beauchamp在提交给美国商业改进局（Better Business Bureau）的报告中表示：“此刻，我愿接受所有指责与嘲讽，作为对自己轻信的惩罚。”

　　他表示，目前正依靠一个未向诈骗者透露的较小退休账户及养老金来维持生计，而他原本计划使用这些积蓄环游世界。Beauchamp已经向当地警方报案，但案件进展缓慢。“由于到处都是欺诈案件，我的案件被放在了队列中，”他说，“我没有抱太大希望。”

责任编辑：刘鹏林