随着人工智能改变游戏行业，研究人员敦促业界采取负责任的人工智能实践

Josiah02 · 发表于 2024-11-4 20:54:20

尽管最近面临经济逆风，视频游戏行业仍然是娱乐业最赚钱的行业之一。
这并非偶然；游戏工作室投入了数亿美元来使他们的游戏规模更大、更具沉浸感，以吸引新玩家和老玩家。
图形正逐渐接近恐怖谷领域，而 Meta 和索尼等公司继续利用混合现实耳机和其他传感技术模糊物理世界和数字世界之间的界限。
与此同时，人工智能被誉为技术领域的下一个重大突破，视频游戏制造商正在将其用于各种各样的流程，包括编程非玩家角色、创建程序生成的级别、审核游戏聊天记录以及定制和个性化游戏内体验。
确实，这个行业正处于前沿，但一个经常被忽视的方面是开发人员在使用这些技术制作游戏时必须面对的道德挑战。
围绕数据隐私、偏见算法以及在人工智能的帮助下变得更加令人上瘾的诱人游戏循环，需要进行重要的讨论。
那么，随着人工智能在游戏开发中扮演越来越重要的角色，游戏制作者应该如何更负责任地使用它呢？
东北大学的研究人员在《游戏：研究与实践》上发表的一篇文章中正面回答了这个问题，建议游戏行业应该采用为新兴的负责任人工智能领域开发的工具和框架。
“很明显，游戏行业在人工智能方面正朝着不同程度的风险迈进，但道德方面却落后了，”体验式人工智能研究所负责任人工智能实践主任兼研究作者之一坎苏坎卡 (Cansu Canca) 表示。
“游戏设计师担心，如果没有适当的道德指导，他们也不知道如何解决这些复杂而新颖的道德问题，”她补充道。
该文章的其他作者包括东北大学研究员 Annika Marie Schoene 和 Laura Haaber Ihle。
虽然人工智能在游戏开发中的应用有多种不同的方式，但作者针对了一些特定的痛点，包括游戏开发者如何使用人工智能开发游戏机制，生成式人工智能如何用于图像创作和其他创造性活动，以及公司如何收集和使用用户数据。
游戏工作室通常规模庞大，拥有多个部门，涵盖数十个团队和个人员工。研究人员表示，这些公司规模越大，就越有可能出现孤岛现象和沟通不畅。
因此，一个有效的人工智能道德框架从一开始就被设计成融入公司层级体系的每个部分。研究人员表示，在实践中，一个全面的人工智能道德框架可以帮助所有各方——从设计师和程序员到故事作者和营销人员——就特定的人工智能用例做出更好的决策，并且应该以“道德和政治哲学的基本理论”为基础。
“从某种意义上说，更广泛的负责任的人工智能框架在应用于游戏时不一定会改变，”Canca 说。
例如，研究人员写道，风险评估工具可以帮助游戏开发者在实施之前权衡某些用例的利弊。全面的风险评估概述了拟议用途和技术的优势和劣势以及潜在的积极和消极结果。
他们写道：“使用人工智能伦理风险和影响评估工具可以让游戏设计师和开发者评估游戏和所纳入的人工智能系统对个人自主权和代理权的影响、其危害风险和潜在利益，以及目标受众和更广泛社会中的负担和利益分配。”
研究人员强调，这只是开发人员可以在更大的框架中利用的工具之一，以协助这一过程。其他应该成为该人工智能框架一部分的工具包括偏见测试和某些人工智能技术的误差分析。
人工智能开发的另一个重要考虑因素是公司如何使用数据来帮助训练他们的模型并提高他们的利润。
研究人员表示，使用类似于美国当前使用的娱乐软件分级委员会系统的分级标签，远远不足以向游戏玩家传达与数据和人工智能伦理相关的风险。
研究人员解释说，相反，在负责任的人工智能领域内开发的类似于模型卡和人工智能和数据标签的方法将为该过程带来更多的透明度，并包括详细信息，包括开发人员如何在游戏制作中使用人工智能以及如何在游戏中收集和使用用户的特定数据。
“数据非常有价值，这种信息可能不仅仅用于重新训练模型，”Schoene 说。
“我想知道我的数据发生了什么。我想知道我的游戏风格如何影响游戏中的各种代理，”她补充道。
但 Schoene 强调，如果使用得当，人工智能实际上可以帮助扩大行业规模并吸引新的参与者。
“是的，有很多权衡，”她说。“有危险，但也有积极因素。如果做得好，人工智能可以让不同能力的人更容易玩游戏。”

账号		自动登录	找回密码
密码			立即注册