【新智元导读】AI智能体遍布整个网络，未来如何防止被骗?如何保护隐私?OpenAI微软MIT等25个机构联手提出「人格凭证」，可以证明自己是真人，还不用披露任何个人信息。
最近半个月，全网竟被一个OpenAI的「AI爆料人」愚弄了。
听到「草莓哥」@iruletheworldmo账号，想必每个人都很熟悉，而且时不时就会刷到他的爆料帖子。
直到这周三，所有人没有等来他预测的GPT-4o large模型，反被AI初创MultiOn创始人揭穿了身份——
一时间，全网许多平台发起禁止「草莓哥」的相关转帖。
Reddit子板块r/singularity中，已置顶禁止全员提及相关内容
甚至有的人直接「屏蔽」了@iruletheworldmo。
真正的OpenAI爆料人Jimmy Apples也曾对AI智能体说的话信以为真
随后，这个AI智能体还发起了在线投票——我是否通过图灵测试，没想到竟有一半多的人给出了肯定的回答。
而这仅仅是一个AI。
小扎曾说，「未来每个人都将拥有一个AI助理，很快就会有数十亿AI智能体代表我们上网」。
如果未来某天真的实现了，人们将如何一眼辨别某个社交媒体账号，是不是机器人?如何证明自己「真人」身份，而不用提交任何个人信息?
来自OpenAI、微软、MIT、UCB等25个机构的学者们共同提出了一种验证技术——「人格凭证」（Personhodd Credentials， PHC）。
PHC可以在保护用户隐私的同时，在网络上证明「你是你」，是一个真实存在的人类而非AI。
论文地址:https://arxiv.org/pdf/2408.07892
微软首席科学家幕僚长表示，「在保持隐私的同时，在网上建立人类身份，是AI时代的决定性挑战之一」。
另一位网友表示，这项研究出现得很及时，简直发人深省。
为什么这么说?
30亿人数据泄露，隐私保护无解?
除了开篇「草莓哥」的案例，最近，近30亿人数据泄露，席卷了整个美国，堪称史上最大数据事件事件之一。
这其中，涵盖了详细的居民个人信息，比如姓名、电子邮件、地址、电话、社保号、邮件地址。
更恐怖的是，地址数据可以追溯到30年前，就连去世20多年的亲属信息，都能被挖出。
因此，一直以来，匿名是许多注重隐私的人们，采取保护自己的措施。
但有时，一些重要的验证，不得不将自己的个人信息交出去。
当前，越来越强大的AI不断涌现，不法分子欺诈、传播虚假信息的手段更加隐蔽，随随便便就能扩展到更大的传播规模。
而且，AI门槛、成本的降低，获取更加容易。
随着AI生图/视频/声音越来越逼真，比如在约会App上，你如何确定对方就是真人?
当前存在的解决方案，比如验证码，显然不够用，
这也意味着，传统的人机验证方式，正在走向失败。
毕竟，AI在图像识别等领域的进步，这种方法变得越来越不可靠。
而现在，极需要找到一种平衡，既能有效防止AI欺骗，又不会过度牺牲用户的隐私和互联网的包容性。
这也是，OpenAI、微软等机构的研究人员，希望通过研究最终在实际应用中，看到的效果。
证明你是人，而非AI
正如研究员Steven Adler所述，隐私保护工具「人格凭证」（PHC），可以证明你是一个人，但不会揭示「你是哪个人」。
具体来说，「人格凭证」由两个AI无法伪造的元素支持:
也就是，无论AI变得多么好，都无法逃脱这两点。
总之，PHC就是一种数字凭证，可以让用户向在线服务证明，自己是真人并非AI，而且还不用披露任何个人信息。
这种凭证，可由一种可信机构，比如政府去颁发。
而且根据作者的定义，PHC可以是本地的或全球的系统，不一定基于生物识别技术。
AI智能体充斥全网，防骗最新策略
论文的两位合著者Nouran Soliman和Tobin South是MIT的两名在读研究生，他们最近在MIT News的采访中简要介绍了这项技术，讨论了其必要性、风险，以及如何以安全、公平的方式应用PHC。
「人格凭证」的必要性
虽然一提到AI，很多公众讨论的话题都是ChatGPT这样的聊天机器人，但人工智能的能力显然不止于此。
互联网上的AI参与表现出两种特性:不可区分且可扩展，这促使AI驱动的欺骗行为持续增长。
AI可以在社交网络上创建帐户、发布虚假内容、伪装成人类，或通过算法大规模放大某些内容，甚至进行大规模攻击，这释放了很多风险。
这会改变我们浏览社交媒体的体验，区分复杂的AI和人类也变得越来越困难，类似于未经同意的「数字替身」问题。
「人格凭证」则提供了一种潜在的解决方案，比如用于过滤网络内容、决定接收信息的信任级别。
什么是人格凭证?如何确保安全性?
正如之前所述，「人格凭证」可以证明你是人类，但无需透露任何有关你身份的信息。
作者表示，无论AI有多么先进，都无法做到两件人类能做到的事——获得离线的现实世界中的证件，以及伪造或破解先进的加密系统。
因此，「人格凭证」结合了这两个想法——通过密码学实现的安全性，以及人类仍然拥有AI所不具备的一些能力，从而真正有力地证明你是人类。
要获得「人格凭证」，用户需要与政府发生关系，比如税号或者驾驶证，而且必须有线下参与的成分。
通过隐私技术，用户可以证明这一事实，而无需共享任何有关身份的敏感信息。
「人格凭证」的实现会比较容易，它依赖的基础设施和安全技术已经存在了数十年，例如使用邮箱账户等标识符来登录在线服务。PHC可以作为这些现有方法的补充。
但是，用户使用「人格凭证」应该是一种可选项而非必选项，服务提供商可以让人们选择是否使用。
作为可选项就意味着，我们还无法做到让用户只与真实的、经过验证的人类进行在线互动，完全排除AI在互联网上的参与。
但是在网购或者交易协商这类的场景中，想要确保另一方是人类实体，「人格凭证」就可以派上用场。
有哪些风险?如何降低这些风险?
其中一项风险来自于如何实施。如果一个特定实体是「人格凭证」唯一的发行人，或者系统的设计方式是将所有权力赋予一个实体，这可能会引起一部分人对于权力过于集中的担忧。
如果你处在一个很艰难或危险的社会政治环境中，被要求去某个线下地点才能获得人格凭证，这会比较可怕，而且阻碍了人们在线上分享信息。
一个可能的解决方案，是设置多个「人格凭证」的发行方。
我们的论文试图鼓励政府、政策制定者、领导者和研究人员投入更多资源，研究不同的实施方向，并探索这项技术可能对社区产生的更广泛影响，确保能制定正确的政策和规则。
AI的发展速度非常快，远快于政府适应的速度。因此，政府和大公司现在就应该开始考虑调整数字系统，以便准备好证明某个用户是人类，同时做到保护隐私和安全，这样我们才能为AI更先进的未来做好准备。
技术介绍
「人格凭证」这项技术究竟如何实现?这篇63页的论文能够给出我们非常详尽的答案。
论文地址:https://arxiv.org/pdf/2408.07892
首先，「人格凭证」以数字方式存储在持有者的设备中。为了保证可信度和隐私，PHC系统需要满足两个前提:
- 每个人只能持有一份「人格凭证」，需要定期重新验证，以防被盗用
- 持有PHC的用户与与服务提供商进行匿名交互。即使PHC发行商和服务提供商串通，也无法追踪用户的数字活动，更不能将用户在各个平台上的活动连接在一起。
PHC系统的注册和使用流程如图3所示:
用户提出请求后，只需向发行方提供最少量的必要信息。发行方负责验证是否为人类，并确定用户之前没有在此注册过PHC。此外，发行方有撤回或恢复PHC的权利。
用户在使用第三方数字服务时，可以提供PHC并经过「零知识证明」，即可完成身份验证。
除了PHC之外，服务提供商不能获取其他额外信息。每次证明仅限于特定应用程序，因此不同平台无法通过PHC链接到同一个用户。
论文提出，为PHC系统设计多个发行方是比较理想的实施方案。用户可以从多个发行方中任意选择来注册PHC，但每个发行方只能获取一份证书，在减少大规模欺骗行为的同时保证用户隐私。
这种PHC系统有3方面的预期优势:
- 减少「傀儡」用户的影响，实现真实人类的在互联网上大规模的真实输入和参与
- 缓解机器人攻击
- 让AI助手真正成为值得信赖用户的代表，而非被恶意用户操纵
与此同时，要让PHC以公平、安全的方式在现实生活中实施，还必须面对以下4个方面的挑战:
公平获取
频繁的PHC验证可能导致使用过程中的摩擦和挫败感，影响对技术不熟悉的用户，尤其是老年人的使用。还需要确保没有PHC的用户依旧可以使用数字服务。
自由表达
用户可能会担心PHC将他们的数字活动与线下真实身份相关联，从而降低在网络上表达真实观点的意愿。
权力检查
PHC生态系统面临的一项重大挑战是权力集中于少数机构，尤其是PHC发行者和大型服务提供商，他们有关PHC使用的决策将产生重大影响。
抵御攻击和错误的稳健性
与任何数字系统一样，PHC系统容易受到多方面的攻击和利用，比如证书发行方、服务提供商和恶意用户。可以考虑使用网络安全领域先前的最佳措施，比如DoS防御，以及阻止攻击者访问敏感记录。
论文的最后，作者提出了下一步应该采取的措施。
首先，适应现有的数字网络体系，为人工智能的影响做好准备。
更具体地说，我们要重新思考，AI将如何改变互联网和通信。
其次，优先考虑将「人格凭证」作为亟需解决的一种方案。
最后一张图，总结了这篇论文的所有要点。
值得一提的是，为了防止互联网平台以「实名制」为由过度收集信息，公安部和网信办最近推出了「网络身份证」。
只需要一部有NFC功能的手机，进行身份证识别和人脸识别并关联手机号之后，就能得到一张虚拟的「网络身份证」。
上面的「网号」由字母和数字组成，不含明文的身份信息，可以直接用于淘宝、微信等app的实名认证，不需要再输入姓名、身份证号等信息。
在保护个人隐私方面，大家觉得有什么更好的解决方案?
参考资料:
https://x.com/sjgadler/status/1824245211322568903
https://news.mit.edu/2024/3-questions-proving-humanity-online-0816
https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html
总结
文章总结：**标题**: 如何防止AI欺骗，保护你的隐私？「人格凭证」或成解决方案
**背景**:
随着AI技术的快速发展，AI智能体遍布网络，如何防止其欺骗、保护个人隐私成为一大挑战。近期，"草莓哥"AI智能体事件引发了广泛关注，揭示了现有验证机制的不足。
**问题提出**:
面对即将到来的AI社会，如何辨别社交媒体账号是否为机器人身份，并保证验证过程不泄露用户个人信息？
**解决方案**:
来自OpenAI、微软、MIT等25个机构的学者们提出了「人格凭证」（Personhodd Credentials，PHC）的验证技术。PHC能在不泄露个人数据的前提下，证明用户为真实的人类而非AI。
**PHC的工作原理**:
- **两个关键元素**：PHC基于两种AI无法伪造的元素保障其有效性：一是用户需拥有现实世界中的无法伪造的证件（如税号、驾驶证），二是结合先进的加密系统。
- **注册与使用**：用户需向可信机构申请获取PHC，并通过离线验证手段确保真实身份。使用时，用户可通过“零知识证明”技术向在线服务证明自身为真实人类，无需透露个人敏感信息。
- **系统设计**：鼓励设置多个PHC发行方以避免权力集中。用户登录和交互均保持匿名，确保无法追踪用户活动。
**必要性及优势**:
- **防骗与隐私保护**：有效减少AI欺骗，保护个人隐私，确保用户在网络上的真实性和信任。
- **内容过滤**：可用于过滤网络内容，提高信息接收的信任度，避免因AI智能体的垃圾信息干扰。
**风险与挑战**:
- **公平获取**：确保不同背景的人都能公平获取PHC，避免因技术门槛导致的使用障碍。
- **自由表达**：防止因PHC将数字活动与现实身份关联而导致用户不敢表达真实观点。
- **权力检查**：避免权力过度集中于PHC发行方和服务提供商，保护用户权益。
- **安全与稳健性**：加强PHC系统的安全性，防止各种形式的攻击和错误滥用。
**结论**:
「人格凭证」提供了一种在保护隐私的同时证明真实身份的解决方案，有望在未来AI社会中发挥重要作用。面对快速发展的AI技术，各国政府、企业及研究机构需加强协作，共同应对AI带来的挑战，确保用户的安全与隐私。
**补充信息**:
中国也在探索类似技术，如公安部和网信办推出的「网络身份证」，通过虚拟证件在多个数字服务中实现安全认证，且不泄露个人真实信息。