人工智能如何影响团队的集体注意力
在专业和学术环境中，团队合作的有效性通常取决于各种因素，包括沟通和协调注意力。在这种情况下，集体注意力需要团队成员合作专注于手头的任务，将其最佳地划分为子任务并交替努力以尽可能高效地完成任务。东北大学的研究人员最近进行了一项研究，探讨在人类团队中引入基于人工智能 (AI) 的虚拟助手是否会影响团队的集体注意力。他们的研究结果已预先发表在arXiv上，表明在协作小组中使用基于人工智能的工具可以显著影响团队成员讨论的内容及其讨论方式。
“人工智能将在我们未来的工作方式中扮演越来越重要的角色，”该论文的合著者 Christoph Riedl 告诉 Tech Xplore。“一段时间以来，研究人员一直在研究一个人与一个人工智能系统合作的二元组。然而，很少有研究关注整个团队如何与人工智能系统合作。”
Riedl 及其同事最近开展的研究的主要目标是更好地了解人工智能辅助对团队合作的影响。然而，他们并没有只关注人工智能与人类个体之间的动态，而是研究人工智能对团队所有成员之间动态的影响，包括人与人之间的动态。
“我们进行了一项实验室实验，让 3-4 人组成的小组解决一项困难的谜题任务，”Riedl 说道。“为了帮助他们，他们获得了 AI 助手的帮助。在实验过程中，AI 助手为团队提供了一些关于如何解决谜题的线索。我们记录了团队的交流，并在 AI 助手给出线索之前和之后寻找团队交流模式的变化。”
为了调查团队沟通是否受到人工智能代理的影响，研究人员仔细记录了团队成员之间所有的对话记录。他们还记录了不同时间讨论的一般主题以及使用的特定词语。
“我们发现了两件有趣的事情，”里德尔解释道。“首先，团队在谈论内容时受到人工智能助手的强烈影响。一旦人工智能助手提出一个新想法，人类就会立即抓住机会，讨论这个新想法，即使这是一个低质量的线索，无法帮助他们解决难题。其次，我们观察到团队中的人类采用了人工智能助手使用的语言。”
Riedl 及其同事进行的实验表明，在小组工作中使用 AI 助手时，它可以影响人类团队成员讨论的内容和使用的具体术语。例如，研究人员发现，在解决实验中使用的谜题时，一些团队的成员最初将特定符号称为“钻石”，但在 AI 助手这样做之后，他们开始将其称为“宝石”。
有趣的是，这种语言适应过程似乎是自动的，无论参与者对人工智能助手的感觉如何，都会发生。例如，一些团队开始使用与人工智能相同的语言，即使他们表示不信任人工智能并怀疑其能力。
“我认为这些发现最显著的含义是，当人们引入人工智能系统时，可能会产生各种意想不到的后果，”里德尔说。
“在我们的案例中，人工智能系统旨在通过它提供的线索来提高团队绩效，但除了这一预期目标之外，该系统还巧妙地转移了团队的集体注意力和团队使用的语言。其中一些影响可能会产生积极的影响——例如改善人类团队成员之间的认知一致性——但其他影响可能会产生负面影响——例如将注意力从与任务最相关的方面转移开。”
该研究团队最近的研究重点突出了在专业和协作环境中引入人工智能系统可能产生的复杂连锁反应。虽然预测人工智能将如何影响与之互动的人是一个非常困难甚至无法实现的目标，但 Riedl 和他的同事计划继续研究这些系统在各种环境中的影响。
“我们的研究表明，采用集体智能的视角并在现有集体智能研究的基础上进行研究，可以为人工智能研究人员提供对群体动力学的重要基础理解，”Riedl 补充道。
“总的来说，这表明设计有用的人工智能系统可能比我们想象的要困难得多，因为现在设计师需要关注他们的系统如何影响团队动态的其他方面。目前，我的实验室正在研究人工智能的意外后果。人工智能如何影响注意力、学习和组织文化等‘绩效’以外的结果。”
更多信息： Josie Zvelebilova 等人，《人机协作中的集体注意力》，arXiv (2024)。DOI ：10.48550/arxiv.2407.17489
期刊信息： arXiv
页:
[1]