人类会接受会撒谎的机器人吗？科学家发现这取决于谎言

Josiah02

诚实是上策……大多数时候都是如此。社会规范帮助人类了解何时需要说真话，何时不应该说真话，以免伤害他人的感情或避免受到伤害。但这些规范如何适用于越来越多地与人类合作的机器人？为了了解人类是否能接受机器人说谎，科学家要求近 500 名参与者对不同类型的机器人谎言进行评分和论证。
乔治梅森大学博士候选人、《机器人与人工智能前沿》研究报告的主要作者安德烈斯·罗塞罗表示： “我希望探索机器人伦理中一个未被充分研究的方面，以帮助我们理解人们对新兴技术及其开发者的不信任。随着生成式人工智能的出现，我觉得开始研究可能利用拟人化设计和行为集来操纵用户的案例非常重要。”
三种谎言
科学家们选择了三种场景来反映机器人已经投入工作的情况——医疗、清洁和零售工作——以及三种不同的欺骗行为。这些是外部状态欺骗，即对机器人之外的世界撒谎；隐藏状态欺骗，即机器人的设计隐藏了它的能力；以及表面状态欺骗，即机器人的设计夸大了它的能力。
在外部状态欺骗场景中，一个为一位患有阿尔茨海默症的女士当看护的机器人谎称她已故的丈夫很快就会回家。在隐藏状态欺骗场景中，一位女士来到一所房子，里面有一个机器人管家正在打扫卫生，但她不知道机器人也在拍摄。最后，在表面状态欺骗场景中，在一项关于人机关系的研究中，一个在商店工作的机器人谎称自己在搬动家具时感到疼痛，导致人类要求其他人代替机器人工作。
我们编织了一张多么错综复杂的网
科学家招募了 498 名参与者，并要求他们阅读其中一个场景，然后回答一份问卷。问卷询问参与者是否认可机器人的行为、欺骗程度如何、这种行为是否合理以及是否有其他人对这种欺骗行为负责。研究人员对这些回答进行了编码，以确定共同主题并进行分析。
参与者不赞成大多数隐藏状态欺骗，即带有未公开摄像头的清洁机器人，他们认为这是最具欺骗性的。虽然他们认为外部状态欺骗和表面状态欺骗具有中等欺骗性，但他们更不赞成表面状态欺骗，即机器人假装感到疼痛。这可能被认为是操纵性的。
参与者认可了大部分外部状态欺骗，即机器人对患者撒谎。他们为机器人的行为辩解说，这是为了保护患者免受不必要的痛苦——他们认为顾及他人感受比诚实更重要。
机器里的幽灵
尽管参与者能够为这三种欺骗行为提供合理性——例如，有些人认为家政机器人可能出于安全原因而拍摄视频——但大多数参与者表示，隐藏的国家欺骗行为是无法辩解的。同样，约有一半的参与者对表面国家欺骗行为表示不合理。参与者倾向于将这些不可接受的欺骗行为（尤其是隐藏的国家欺骗行为）归咎于机器人开发者或所有者。
罗塞罗说：“我认为我们应该对任何能够隐藏其真实功能的技术感到担忧，因为这可能导致用户以用户（也许是开发者）从未想过的方式被该技术操纵。”
“我们已经看到一些公司利用网页设计原则和人工智能聊天机器人来操纵用户采取某种行动的例子。我们需要监管来保护自己免受这些有害欺骗。”
不过，科学家们警告称，这项研究需要扩展到能够更好地模拟现实生活反应的实验，例如视频或简短的角色扮演。
“使用带有小插图的横断面研究的好处是，我们可以以成本可控的方式获得大量参与者的态度和看法，”罗塞罗解释说。“小插图研究提供了基线发现，可以通过进一步的实验来证实或反驳。面对面或模拟人机交互的实验可能会更深入地了解人类如何真正看待这些机器人欺骗行为。”