伦理学家怀疑法学硕士颁发者是否有法律义务确保可靠性

Josiah02

　　牛津大学牛津互联网研究所的三位伦理学家在《皇家学会开放科学》杂志上发表了一篇论文，质疑法学硕士学位授予单位是否对向用户查询提供的答案的准确性负有法律义务。
　　作者桑德拉·沃赫特 (Sandra Wachter)、布伦特·米特尔施塔特 (Brent Mittelstadt) 和克里斯·拉塞尔 (Chris Russell) 也想知道是否应该要求公司在结果中添加功能，以便用户更好地判断他们收到的答案是否准确。
　　随着法学硕士学位逐渐成为主流，其用途也成为人们猜测的问题——例如，是否应允许学生使用它们来完成家庭作业，或者企业或政府雇员是否应该能够使用它们来开展严肃的业务？
　　这个问题越来越突出，因为法学硕士经常会犯错误——有时是大错误。在这项新举措中，牛津大学团队建议，鉴于所提出问题的严重性，法学硕士的制造者应该对其产品承担更多责任。
　　研究人员承认，目前法律上无法强制法学硕士论文的作者必须提供正确、合理的答案——目前这在技术上不可行。但他们也建议公司不能逍遥法外。
　　他们想知道，现在是否应该颁布法律义务，更加强调其产品的真实性和/或准确性。如果这不可能，他们建议至少可以强制 LLM 制作者添加一些功能，比如在答案中加入引文，以帮助用户判断答案是否正确——或者添加一些功能，让用户了解所给答案的可信度。
　　他们指出，如果聊天机器人不确定答案，也许它可以直接说出来，而不是生成一个荒谬的答案。
　　研究人员还建议，在医疗保健等高风险领域使用的 LLM应仅使用真正有用的数据（例如学术期刊）进行训练，从而大大提高其准确性。他们认为，他们的工作为提高 LLM 的准确性提供了一条途径，随着 LLM 成为更常见的信息来源，这个问题的重要性可能会增加。