死机机器人和监管：需要讨论的道德和法律问题

Josiah02

欧盟关于人工智能的新法律框架《欧盟人工智能法案》于 8 月 1 日生效，旨在防止使用该技术侵犯权利。该法案根据人工智能可能对个人和社会造成的风险程度对其进行分类，并禁止使用构成“不可接受风险”的技术，例如操纵和利用人们的弱点的技术。
一项可能属于这一类别的技术是死者机器人，一些公司已经在开发这种技术，并计划在不久的将来上市。这些聊天机器人基于死者的数字身份（WhatsApp 消息、社交媒体、电子邮件等），能够与死者的家人和朋友进行对话，模仿他们的个性。虽然这看起来像科幻小说，但事实并非如此，这种类型的服务比我们想象的更接近现实。
贝伦·希门尼斯 (Belén Jiménez) 拥有心理学博士学位，是加泰罗尼亚开放大学 (UOC) 心理学与教育科学学院的成员，也是 IN3 CareNet 小组的研究员，是悲伤技术调解方面的专家。她的部分研究重点是死机机器人，她在该领域发表了多篇研究成果。
她说：“使用死尸机器人时必须采取一定的预防措施，而且必须对其使用进行规范，因为销售这些机器人的公司的利润动机可能与潜在的治疗用途不符。”
她的相关研究发表在《在线人工智能系统伦理学》和《心理学思想》上 。
一场没有明确答案的复杂辩论
“尽管死亡机器人尚未上市，但我们需要反思这项技术的生物伦理方面。它们的使用可能很快就会成为常态，就像其他最初令我们惊讶但现在已被广泛使用的应用程序一样，例如约会应用程序。越来越多的公司正在进入所谓的数字来世行业，他们正在改进这项技术，”希门尼斯解释说。
她认为“研究死亡机器人如何调解和转化悲伤”至关重要。这是一个几乎没有科学研究的领域，也没有明确的答案，因为它们的使用和效果取决于各种因素，包括这些技术的设计方式。”
除其他事项外，新的欧洲立法规定，聊天机器人必须告知用户，它们正在与计算机程序而不是人进行交流。尽管该立法将这项技术归类为“有限风险”，但在健康等敏感情况下（死机器人就是这种情况），必须仔细分析这些程序的影响。
希门尼斯也是图卢兹大学 CERPOP 研究小组的成员，他的研究表明，失去亲人的人对这项新技术持矛盾的态度：他们既想与亲人保持情感联系，又对与基于死者数字身份的程序进行互动感到不安。
死亡机器人基于所谓的“持续联系”，即丧亲者与死者之间的联系，这一术语经常用于悲伤心理学。UOC 研究人员表示，“这些技术利用了人们建立情感联系的需要。”
事实上，它们可能相当于一种先进的技术版本，让我们可以在亲人的坟墓前与他们进行想象中的对话，或者通过照片和视频来保存他们的记忆。
“这种维持联系的需求不一定是病态的，”希门尼斯解释道，“对很多人来说，这是正常的。然而，使用死尸机器人时必须采取一定的预防措施，并且必须规范它们的使用，因为销售这些机器人的公司的利润动机可能与这项技术的潜在治疗用途不一致。”
希门尼斯指出，在缺乏研究的情况下，这些技术的心理影响将取决于用户本身、他们与死者的关系以及他们与聊天机器人建立的关系。
她警告说：“危险之一是，如果死亡机器人消失（例如由于技术问题），它可能会带来负面影响，例如产生依赖关系，甚至因第二次失去而遭受痛苦。”
规范数字来世产业
我们对永生的渴望和技术进步正在刺激数字来世产业的发展，这个行业利用已故者的数字存在来延续他们的记忆，甚至延长他们的数字活动。这具有许多道德和社会影响。公司追求的商业和经济目的可能与这些工具的潜在治疗目标相冲突。希门尼斯认为，让死者机器人发送通知和其他让死者家属“上瘾”的策略可能在道德上存在问题。
“我们正在应对基于人工智能的新技术发展，它涉及巨大风险，必须对其进行监管以预测其可能产生的负面影响，同时我们还必须考虑其伦理层面，”研究人员说。“新的欧洲法规侧重于促进这些技术的透明度，这在悲伤等敏感领域至关重要。”
她解释道：“此外，开发这些服务的公司必须遵守严格的标准，并投资于审计、透明度和文档计划。”《人工智能法案》规定，如果公司不遵守法律，最高可处以 3000 万欧元或公司营业额 6% 的罚款。
由于缺乏针对死亡机器人的具体监管，希门尼斯建议，监管规定“应特别确保对死者的尊重和尊严，并促进用户的心理健康，特别是在他们悲痛的时候”。