怀俄明州记者被抓获利用人工智能制造虚假引言和故事

Josiah02

怀俄明州州长和当地检察官的一句话让鲍威尔论坛报记者 CJ Baker 觉得有点不对劲。然后，报道中的一些短语让他觉得几乎像机器人一样。
然而，6 月 26 日的一篇文章却明显表明，竞争对手的新闻机构的记者正在使用生成人工智能来撰写报道，该文章讲述了喜剧演员拉里电缆工 (Larry the Cable Guy) 被选为科迪牛仔节游行 (Cody Stampede Parade) 的总指挥。
据Cody Enterprise报道，“2024 年 Cody Stampede 游行将由喜剧界最受喜爱的人物之一领导，成为一场令人难忘的美国独立庆典。”“这种结构确保最关键的信息首先呈现，使读者更容易快速掌握要点。”
经过一番调查，拥有 15 年记者经验的贝克会见了 40 岁的新闻界新手亚伦佩尔查 (Aaron Pelczar)。贝克说，佩尔查承认，他在从企业号辞职前曾在报道中使用过人工智能。
Enterprise 的出版商和编辑（由 Buffalo Bill Cody 于 1899 年共同创立）已经道歉，并发誓要采取措施确保不再发生此类事件。Enterprise 编辑 Chris Bacon 在周一发表的一篇社论中表示，他“未能发现”人工智能复制和虚假引述。
“这些虚假引述显然是匆忙的新手记者的错误，他们信任人工智能，但这并不重要。这是我的职责，”培根写道。他为“人工智能被允许将从未说过的话放入报道中”道歉。
早在人工智能出现之前，记者就曾因在报道中编造引语或事实而毁掉了自己的职业生涯。但这起最新丑闻表明，人工智能给包括新闻业在内的许多行业带来了潜在的陷阱和危险，因为聊天机器人只需几个提示就能吐出虚假但又有点可信的文章。
人工智能在新闻业中发挥着重要作用，包括某些任务的自动化。包括美联社在内的一些新闻编辑室利用人工智能让记者从事更有影响力的工作，但大多数美联社员工不允许使用生成式人工智能来创建可发布的内容。
自 2014 年以来，美联社一直在使用技术协助撰写有关财务收益报告的文章，最近又在一些体育报道中采用这种技术。它还在试验一种人工智能工具，将一些报道从英语翻译成西班牙语。每篇这样的报道的结尾都有一条注释，解释技术在其制作中的作用。
事实证明，坦率地说明如何使用和何时使用人工智能非常重要。去年，《体育画报》因发布人工智能生成的在线产品评论而受到批评，这些评论被说成是由实际上并不存在记者撰写的。该事件曝光后，《体育画报》表示将解雇为其网站撰写文章的公司，但这一事件损害了这家曾经强大的出版物的声誉。
在《鲍威尔论坛报》上报道佩尔查尔在文章中使用人工智能的新闻时，贝克写道，他与佩尔查尔和培根进行了一次不愉快但友好的会面。在会面期间，佩尔查尔说：“显然我从未故意错误引用任何人的话”，并承诺“纠正这些错误并道歉，说这些都是失实陈述”，贝克写道，并指出佩尔查尔坚持认为他的错误不应该归咎于科迪企业编辑。
会后，企业对佩尔查尔在报社工作两个月期间撰写的所有报道进行了全面审查。培根周二表示，他们发现七篇报道引用了六个人的人工智能生成的引语。他仍在审查其他报道。
“这些引言非常可信，”培根说，并指出在审阅佩尔查尔的文章时与他交谈过的人说，这些引言听起来像是他们会说的话，但他们实际上从未与佩尔查尔交谈过。
贝克报告说，有七个人告诉他，佩尔查的故事中曾引用过他们的话，但他们并没有和佩尔查说过话。
佩尔查尔没有回应美联社在电话留言中留下的询问，要求讨论发生的事情。培根说，佩尔查尔拒绝与另一家联系过的怀俄明州报纸讨论此事。
贝克经常阅读《企业号》杂志，因为这是它的竞争对手。他告诉美联社，佩尔查的故事中的一些短语和引语引起了他的怀疑。
佩尔查尔在一篇关于黄石国家公园枪击事件的报道中，有这样一句话：“这起事件清楚地提醒我们，即使在最宁静的环境中，人类行为也是不可预测的。”
贝克说，这句话听起来就像某个聊天机器人生成的他的故事摘要，在最后附加了某种“人生教训”。
贝克说，另一则关于偷猎判决的报道引用了野生动物官员和检察官的言论，听起来像是新闻稿。然而，他表示，根本没有新闻稿，相关机构也不知道这些言论的出处。
被质疑的两篇报道中包含怀俄明州州长马克·戈登 (Mark Gordon) 的虚假言论，而戈登的工作人员直到贝克打电话给他们时才得知此事。
“在一个案例中，佩尔查尔写了一篇关于 OSHA 新规定的报道，其中引用了州长的一段话，而这一段话完全是捏造的，”州长发言人迈克尔·珀尔曼 (Michael Pearlman) 在一封电子邮件中说。“在第二起案件中，他似乎捏造了一段话的一部分，然后将其与宣布怀俄明州狩猎和渔业部新任局长的新闻稿中的一段话结合起来。”
最明显的人工智能生成的文案出现在有关电缆工拉里（Larry the Cable Guy）的故事中，该故事以倒金字塔的解释结束，这是撰写突发新闻报道的基本方法。
创作人工智能故事并不难。著名新闻智库波因特研究所数字媒体素养项目主任亚历克斯·马哈德万 (Alex Mahadevan) 表示，用户可以将一份刑事宣誓书输入人工智能程序，并要求其撰写一篇关于该案件的文章，其中包括当地官员的言论。
“这些生成式 AI 聊天机器人被编程来为你提供答案，无论这个答案是否完全是垃圾，”Mahadevan 说。
科迪企业出版社的出版商梅根·巴顿在一篇社论中称，人工智能是“新的、先进的剽窃形式，在媒体和写作领域，剽窃是每个媒体机构在某个时候都必须纠正的事情。这是工作中最丑陋的部分。但是，一家愿意纠正（或者确切地说是写作）这些错误的公司是值得信赖的。”
巴顿写道，该报已经吸取了教训，已经建立了一个识别人工智能生成的故事的系统，并且将“就人工智能生成的故事为何不可接受进行更长时间的讨论”。
培根说，企业没有制定人工智能政策，部分原因是记者显然不应该用它来写报道。波因特有一个模板，新闻机构可以借鉴它来制定自己的人工智能政策。
培根计划在本周末之前完成这一安装。
他说：“这将成为就业前讨论的话题。”