信任不是答案：重新思考人机交互以实现道德工程

Josiah02

弗吉尼亚大学系统与信息工程副教授马修·L·博尔顿 (Matthew L. Bolton)在他的文章《信任不是一种美德：我们为什么不应该信任》中，对在人机交互中培养信任的强调提出了严厉的挑战。他特别关注使用人工智能、机器学习和自动化的系统。
该文章发表在《设计中的人体工程学：人为因素应用季刊》杂志上。
博尔顿认为，虽然信任通常被视为采用新技术的关键，但它是一个有问题且不精确的概念。信任很难定义，高度依赖于具体情况，并与信心和感知风险等相关概念相混淆，因此它既不具有选择性，也不具有诊断性，无法作为衡量人类行为的标准。
Bolton 认为，专注于建立对技术的信任实际上可能会破坏合理的人因工程。工程师不应将信任作为目标，而应专注于系统可靠性、透明度和可用性的客观衡量标准——这些因素直接影响人类的体验和表现。
博尔顿坚称，信任并非天生具有人性，可以被操纵，剥夺用户的权利，削弱而不是增强自主权。这种操纵通常符合大型组织的利益，这些组织希望通过鼓励对其技术的盲目信任来绕过对可靠性的需求。
“信任研究的核心存在矛盾，”博尔顿说。“我们将人类纳入系统，因为他们带来了经验、专业知识、直觉和创造力，可以提高性能并使系统具有弹性……我们依靠他们来决定何时、为何以及如何信任系统。如果工程师操纵人们按照他们（或其他人）想要的方式行事，我们就失去了拥有人类操作员的好处。”
最终，博尔顿呼吁放弃以信任为中心的研究，转而采用更具体、更符合道德的系统设计方法。
他强调，工程师应优先开发能够为用户提供透明、可靠和以人为本的设计的技术，而不是依赖信任作为采用的理由。他认为，这种方法将带来更安全、更合乎道德和更有效的人机交互。