研究人员将在会议上展示提高人工智能透明度和准确性的新工具

Josiah01

　　虽然大型语言模型 (LLM) 在提取数据和生成关联响应方面表现出了卓越的能力，但这些人工智能 (AI) 模型如何得出答案仍存在疑问。问题在于可能出现不必要的偏见或产生无意义或不准确的“幻觉”，这两者都可能导致错误数据。
　　因此，SMU 研究人员 Corey Clark 和 Steph Buongiorno 将在 8 月 5 日至 8 日于意大利米兰举行的IEEE 游戏会议上发表一篇论文。他们将分享他们创建的 GAME-KG 框架，该框架代表“增强元数据和增强知识图谱的游戏”。
　　该研究发表在arXiv预印本服务器上。
　　知识图谱( KG) 是一种结构化的信息表示，它以一种人类和机器都易于理解的方式捕获实体之间的关系。它将数据组织成节点（表示实体）和边（表示实体之间的关系）。人类将他们的专业知识与自动化工具和算法相结合，创建和维护知识图谱。
　　Clark 和 Buongiorno 开发的框架修改了知识图谱中的显式和隐式连接，可以增强 LLM 提供准确响应的能力。
　　虽然知识图谱可以增强 LLM 的推理能力和性能，但由于捕获、组织和集成来自各种来源的数据的复杂性，知识图谱的创建可能具有挑战性。GAME-KG 框架使用视频游戏收集人类反馈来修改和验证知识图谱，以克服这些困难。
　　“GAME-KG 是人类与知识图谱互动的一种方式，可以整合新知识或修正误解，”南卫理公会大学视频游戏设计研究生项目 Guildhall 副主任 Clark 解释道。“当我们开始出现幻觉时，它使人类更容易纠正人工智能。当你问一个问题时，人工智能会使用我们修改后的知识图谱来提供答案。然后我们实际上可以看到人工智能是如何得出结论的，因为知识图谱允许我们追踪所使用的信息。”
　　Clark 和 Buongiorno 的研究通过两个演示探索了 GAME-KG 的潜力。第一个演示使用了视频游戏《 Dark Shadows》。这款黑色电影风格的悬疑游戏收集玩家反馈，以修改和验证根据美国司法部关于人口贩运的新闻稿收集的数据构建的知识图谱。
　　第二个演示使用 OpenAI 的 GPT-4 回答有关人口贩运新闻稿的问题。人工智能程序根据新闻稿构建的原始知识图谱给出答案。然后，人类通过连接和添加实体之间的隐式关系来修改知识图谱。
　　根据他们的研究结果，研究人员认为 GAME-KG 框架是利用游戏修改知识图谱以协助 LLM 生成准确数据的重要一步。
　　“我们一直致力于将 LLM 用于人口贩卖等关键情况。了解人工智能如何得出答案至关重要，”SMU 博士后研究员 Buongiorno 表示。“我们需要问：如何让 LLM 更准确？如何检查数据并减少幻觉？我们的研究表明，人工智能是一种需要人类互动来引导和指挥的工具。我们需要创造一种方法，让 LLM 更有用、更可靠。”