问答：“人格凭证”能够保护人们免遭数字冒名顶替者的侵害吗？

Josiah02

随着人工智能代理变得越来越先进，在互联网上区分人工智能用户和真实人类可能会变得越来越困难。在一份新的白皮书中，来自麻省理工学院、OpenAI、微软以及其他科技公司和学术机构的研究人员提出了使用人格凭证的验证技术，这种验证技术可以让某人证明自己是网上的真实人类，同时保护他们的隐私。
该论文发表在arXiv预印本服务器上。
MIT News 采访了该论文的两位合著者，电气工程和计算机科学研究生 Nouran Soliman 和媒体实验室研究生 Tobin South，讨论了此类凭证的必要性、相关风险以及如何以安全和公平的方式实施。
为什么需要人格凭证？
Tobin South：人工智能的能力正在迅速提高。虽然很多公众讨论都是关于聊天机器人如何不断进步，但复杂的人工智能所能实现的功能远不止更好的 ChatGPT，比如人工智能自主在线互动的能力。人工智能可以创建账户、发布内容、生成虚假内容、在线冒充人类，或大规模地通过算法放大内容。这会带来很多风险。你可以把这看作是一个“数字冒名顶替者”问题，越来越难以区分复杂的人工智能和人类。人格认证是解决该问题的一个潜在方法。
Nouran Soliman：这种先进的人工智能能力可以帮助坏人发动大规模攻击或传播虚假信息。互联网上可能充斥着人工智能，它们会转发真人的内容来开展虚假宣传活动。浏览互联网，尤其是社交媒体将变得更加困难。你可以想象使用人格凭证来过滤掉某些内容并审核社交媒体提要上的内容，或者确定你在网上收到的信息的信任级别。
什么是人格证书？如何确保这种证书是安全的？
South：人格证书可以让你证明自己是人类，而无需透露有关你身份的其他任何信息。这些证书可以让你从政府等实体那里获取信息，政府可以保证你是人类，然后通过隐私技术，让你证明这一事实，而无需分享有关你身份的任何敏感信息。
South：要获得人格证书，你必须亲自到场或与政府建立关系，比如税务 ID 号。这其中有一个离线组件。你必须做一些只有人类才能做的事情。例如，人工智能不能出现在 DMV。即使是最先进的人工智能也无法伪造或破解密码。因此，我们结合了两个想法——我们通过密码学获得的安全性以及人类仍然拥有人工智能所没有的一些能力——来真正有力地保证你是人类。
Soliman：但人格证书是可选的。服务提供商可以让人们选择是否使用人格证书。目前，如果人们只想与真实的、经过验证的在线人员互动，就没有合理的方法可以做到这一点。除了创建内容和与人交谈之外，人工智能代理在某些时候还会代表人们采取行动。如果我要在网上买东西，或者谈判交易，那么在这种情况下，也许我想确保我正在与拥有人格证书的实体互动，以确保他们是值得信赖的。
南方：人格凭证建立在我们几十年来已经拥有的一套基础设施和安全技术之上，比如使用电子邮件账户等标识符登录在线服务，它们可以补充现有的方法。
人格资格涉及哪些风险？如何降低这些风险？
Soliman：一个风险来自于人格证书的实施方式。人们担心权力集中。假设某个特定实体是唯一的发行者，或者系统设计为将所有权力都交给一个实体。这可能会引起一部分人的担忧——他们可能不信任该实体，觉得与他们打交道不安全。我们需要以一种让人们信任发行者的方式来实施人格证书，并确保人们的身份与他们的人格证书完全隔离，以保护隐私。
索斯：如果获得人格证书的唯一方式是亲自去某个地方证明你是人类，那么如果你处在一个很难或危险的社会政治环境中，这可能会令人恐惧。这可能会阻止一些人以不受约束的方式在线分享他们的信息，可能会扼杀言论自由。这就是为什么拥有各种人格证书颁发者和一个开放的协议以确保言论自由得到维护很重要。
索利曼：我们的论文试图鼓励政府、政策制定者、领导人和研究人员在人格认证方面投入更多资源。我们建议研究人员研究不同的实施方向，探索人格认证可能对社区产生的更广泛影响。我们需要确保制定关于如何实施人格认证的正确政策和规则。
South：人工智能的发展速度非常快，肯定比政府适应的速度快得多。现在，政府和大公司应该开始思考如何调整他们的数字系统，以准备好证明某人是人类，但又要保护隐私和安全，这样，当人工智能拥有这些先进能力的未来到来时，我们就可以做好准备。
更多信息： Steven Adler 等人，人格凭证：人工智能和隐私保护工具在区分网上真实身份方面的价值，arXiv (2024)。DOI ：10.48550/arxiv.2408.07892
期刊信息： arXiv