McAfee最近推出了名为“Mockingbird”的项目，旨在应对使用人工智能生成的深度伪造技术进行音频欺诈的问题。该计划采用了McAfee的AI深度伪造音频检测技术，被命名为“Mockingbird”。
该技术是McAfee在2024年CES（消费电子展）上展示的一项创新技术。该技术的目标是防范网络犯罪分子使用操纵的AI生成音频进行欺诈和操纵公众观念。在一些骗局中，犯罪分子可能使用真实演讲者的视频，并通过深度伪造技术操纵其说出未曾真实发表的言论，这既涉及音频又涉及视频。
McAfee首席技术官Steve Grobman在接受采访时表示:“显然，随着生成式人工智能的发展，我们看到网络犯罪分子、不良行为者迅速转向使用生成式人工智能构建各种骗局。”
随着大选周期的到来，Grobman指出，他们预计将会看到生成式人工智能在虚假信息以及合法政治竞选内容生成中的多种形式的应用。因此，McAfee在过去的几年里加大了投资，确保拥有适用于各种产品和后端技术的正确技术，以便检测这些功能，使用户能够更明智地判断视频的真实性。
Grobman强调，通过“Mockingbird”，他们可以检测音频是否真实，基于对所说话语的分析。这是对使用生成式人工智能创建逼真深度伪造的令人担忧趋势的一种应对方式。
深度伪造技术的应用已经导致网络犯罪分子创建欺诈性内容的增加，从声音克隆模仿亲人勾结要钱到修改真实视频的音频，使消费者在数字领域难以辨别真伪。
Grobman指出，“Mockingbird”采用AI提供的上下文、行为和类别检测模型的综合应用，其准确率超过90%，可以鉴别和防范视频中恶意篡改的音频。他将该技术比喻为一种“天气预报”，帮助个体在数字互动中做出明智决策。
McAfee将这一深度伪造检测技术整合到产品中，以保护用户免受深度伪造音频的影响。鉴于用户已经对暴露于深度伪造的担忧，Grobman指出，在通常认为是安全的社交平台上阻止深度伪造音频的传播相对困难。
总体而言，“Mockingbird”旨在赋予用户识别真实与虚假内容的能力，以防范深度伪造引发的网络欺凌、信息误导和诈骗。McAfee的目标是通过提供用户在新的基于AI的世界中清晰、自信地辨别内容真实性的能力，加强在线隐私、身份安全和整体福祉。
McAfee于2023年12月进行的有关深度伪造意识的调查，显示68%的美国人对深度伪造表示担忧，其中33%报告了对深度伪造骗局的了解或经历。对深度伪造的主要关切包括影响选举（52%）、网络欺凌(44%)、破坏对媒体的公信力(48%)、冒充公众人物(49%)、制造虚假色情内容(37%)、扭曲历史事实(43%)以及落入欺诈陷阱，使网络犯罪分子获取支付或个人信息(16%)。
Grobman表示，McAfee构建了能够识别即便对人类来说可能难以察觉的微小特征的先进AI。他指出，虽然在政治季节使用生成式人工智能制作竞选广告可能并不违法或不道德，但消费者想要知道的一点是这是否是通过生成式人工智能构建的，而不是基于真实音频或视频。