当前位置:AIGC资讯 > AIGC > 正文

“AI马斯克”等深度伪造视频泛滥 每年造成数十亿美元损失

8月18日消息,据外媒报道,AI生成的埃隆·马斯克的形象,已经出现在数千条虚假广告中,导致许多人被骗。AI驱动的“深度伪造”(deepfake)视频预计每年将造成数十亿美元的欺诈损失。

外媒举了一个具体的例子,去年年底,82岁的退休人员博尚普(Steve Beauchamp)看到了一段“马斯克”推荐一个激进投资机会的视频,该机会承诺会带来快速的回报。他联系了推销该项目的公司,并开设了一个账户,存入了248美元。在接下来的几周内,通过一系列交易,博尚普耗尽了他的退休账户,最终投资了超过69万美元。

然后,这些钱消失了,被利用人工智能的新型犯罪企业的数字骗子骗走了。

这些骗子编辑了一段马斯克的真实采访,利用AI工具替换了他的声音。这个AI足够先进,可以改变细微的嘴部动作,以匹配他们为这个数字假冒人物编写的新台词。对普通观众来说,这种操控可能难以察觉。

有业内人士评价称,这些视频往往非常逼真,模仿了马斯克标志性的语调和南非口音。

在过去几个月中,数以千计由AI生成的视频(称为深度伪造)充斥网络,其中包括虚假的马斯克形象,欺骗了众多潜在投资者。德勤预计,AI驱动的深度伪造每年可能导致数十亿美元的欺诈损失。

这些视频制作成本仅需几美元,几分钟内即可完成,并通过社交媒体(包括Facebook的付费广告)推广,扩大其影响范围。

AI行业正在快速发展,这些伴随产生的欺诈事件,需要AI行业和监管部门共同努力应对,以防止滥用。

总结

文章总结了AI生成埃隆·马斯克形象的虚假广告泛滥,造成众多人被骗的案例及严重后果。其中,深度伪造视频(deepfake)技术的应用让骗术更为隐蔽和高明,骗取了包括退休人员在内的多笔巨款。AI技术的进步让这些假视频几乎可以以假乱真,但制作成本低廉,通过社交媒体等渠道快速传播。这不仅暴露了当前技术伦理与监管的漏洞,也迫切要求AI行业与监管部门合作,加强对该技术滥用行为的防控。

更新时间 2024-08-18