OpenAI 担心其 AI 语音可能会迷住用户

Josiah02

OpenAI 表示，它担心人工智能的逼真语音功能可能会导致人们与机器人建立联系，而牺牲人际互动。
这家总部位于旧金山的公司引用了文献，称这些文献表明，与人工智能聊天就像与人聊天一样，可能会导致信任丧失，而 GPT-4o 声音的高质量可能会加剧这种影响。
OpenAI 周四在一份有关其在 ChatGPT-4o 版本人工智能上进行的安全工作的报告中表示：“拟人化涉及将类似人类的行为和特征归因于非人类实体，例如人工智能模型。”
“GPT-4o 的音频功能可能会加剧这种风险，因为它有助于与模型进行更像人类的交互。”
OpenAI 表示，它注意到测试人员与人工智能交谈的方式暗示了他们之间的共同纽带，例如大声哀叹这是他们在一起的最后一天。
报告称，这些情况看上去是良性的，但必须进行研究，以了解它们在较长时期内可能如何演变。
OpenAI 推测，与人工智能进行社交也可能会使用户在与人类的关系方面变得不那么熟练或倾向。
报告称：“与模特的长期互动可能会影响社会规范。”
“例如，我们的模型是尊重的，允许用户随时打断和‘拿走麦克风’，这对于人工智能来说是意料之中的，但在人类互动中却是反规范的。”
OpenAI 表示，人工智能在对话时记住细节和完成任务的能力也可能使人们过度依赖这项技术。
AI 反抄袭检测平台 Copyleaks 联合创始人兼首席执行官 Alon Yamin 表示：“OpenAI 最近对可能依赖 ChatGPT 语音模式的担忧表明了许多人已经开始问的问​​题：是不是该停下来考虑一下这项技术如何影响人际互动和关系了？”
他说人工智能永远不应该取代实际的人际互动。
OpenAI 表示，它将进一步测试其人工智能的语音功能如何引起人们的情感依赖。
测试 ChatGPT-4o 语音功能的团队还能够提示其重复虚假信息并产生阴谋论，这引发了人们的担忧，即人工智能模型可能会被指示令人信服地这样做。
今年 6 月，OpenAI 被迫向女演员斯嘉丽约翰逊道歉，原因是其最新的聊天机器人使用了与她的声音非常相似的声音，这让语音克隆技术成为人们关注的焦点。
尽管 OpenAI 否认他们使用的声音是约翰逊的声音，但首席执行官萨姆·奥特曼在社交媒体上用一个词“她”来标记新模型，这对他们的诉讼没有任何帮助。
约翰逊在电影《她》中为一个人工智能角色配音，奥特曼此前曾说这是他最喜欢的关于人工智能的电影。
2013 年上映的电影由华金·菲尼克斯主演，他在片中扮演一位爱上人工智能助手萨曼莎的男人。