Meta近日宣布，将在其旗下社交媒体平台Facebook和Instagram上标注由人工智能生成的图像，作为科技行业倡议的一部分，旨在帮助用户区分真实和虚假信息。据Meta表示，他们正与行业合作伙伴一同制定技术标准，以更容易识别由人工智能工具生成的图像，并将逐步扩展至视频和音频。
这一举措引起了人们对于在线虚假内容的关注，包括选举虚假信息和未经同意的名人合成裸照等问题。虽然Meta已在其工具生成的逼真图像上放置了“由AI想象”标签，但大多数洪水般涌入其社交媒体服务的AI生成内容来自其他来源。
Gili Vidan，康奈尔大学信息科学助理教授表示:“这是一个信号，表明他们认真对待在线虚假内容的问题。” 她指出，这对于标记使用商业工具生成的大部分AI内容可能是“相当有效的”，但也承认这不太可能捕捉到所有内容。
Meta总务主席尼克·克莱格（Nick Clegg）在一篇博客文章中表示，这些标签将于“未来几个月”内出现，而且将以不同的语言提供，强调“全球各地都有一些重要的选举正在进行”。他解释道:“随着人类和合成内容之间的界限变得模糊，人们想要知道边界在哪里。”
除了Meta外，许多科技行业合作伙伴，包括Adobe领导的内容真实性倡议，一直在努力制定标准。去年，美国总统乔·拜登签署了一项行政命令，推动数字水印和标记人工智能生成内容的实施。
克莱格表示，Meta将努力标注来自Google、OpenAI、Microsoft、Adobe、Midjourney和Shutterstock的图像，因为它们实施向其工具生成的图像添加元数据的计划。此外，谷歌去年表示，YouTube和其它平台将推出AI标签，用于通知观众他们所看到的逼真内容是否合成。
然而，对消费者的一项潜在担忧是，如果科技平台更有效地识别来自一组主要商业供应商的AI生成内容，而错过使用其他工具生成的内容，这可能会产生虚假安全感。康奈尔大学的维丹表示:“这将取决于平台向用户传达的方式，这个标记意味着什么?我应该以多大的信心对待它?它的缺席又代表了什么?”