人工智能搜索工具和聊天机器人可能会降低新闻的可见性和可靠性

Josiah02

　　越来越多的证据表明，OpenAI、谷歌和微软提供的新型生成式人工智能互联网搜索工具可能会增加返回虚假、误导或部分正确信息的风险。
　　尽管这对新闻业和知情民主产生了影响，但新西兰政府还是决定在恢复上届政府的公平数字新闻谈判法案的计划中不考虑人工智能。
　　拟议的法律将要求谷歌和 Meta（运营 Facebook 和 Instagram）向新闻公司支付内容费用。虽然许多地方新闻机构从谷歌获得资金，但他们没有从 Meta 获得报酬。
　　媒体和通信部长保罗·戈德史密斯表示，拟议法案将有一些修正案，但这些修正案与生成式人工智能在新闻搜索中日益重要的作用无关。他说，“人工智能的广泛问题”将在稍后考虑。
　　然而，该法案将赋予部长权力决定哪些公司将被纳入新法律，这可能为微软和 OpenAI 等公司坐上谈判桌打开大门。
　　新闻公司如何回应？
　　谷歌的 Gemini、微软的 Copilot 和 OpenAI 的 ChatGPT 等人工智能聊天机器人会响应用户的提示，根据从互联网（包括新闻媒体网站）“抓取”的信息给出答案。它们还使用新闻内容（或它们能找到的任何内容）来“训练”它们的人工智能模型。
　　由于人工智能公司难以找到足够的数据来进行此类训练，他们正在与新闻公司达成协议，使用他们的内容（包括档案）来输入到他们的模型中。
　　因此，许多大型新闻公司（包括新闻集团、《金融时报》（日经新闻旗下）和德国的 Axel Springer）与人工智能公司签署了内容商业协议也就不足为奇了。
　　另一方面，《纽约时报》和 Alden Global Capital（美国第二大报纸所有者）等公司则采取了不同的做法。他们起诉微软和 OpenAI “非法使用新闻文章来支持他们的 AI 聊天机器人”。
　　奥尔登表示，OpenAI 和微软“未经许可使用了数百万篇受版权保护的文章，并利用这些文章来训练和提供其生成式 AI 产品”。
　　2023 年，新西兰领先的新闻出版商 Stuff 禁止 ChatGPT 使用其新闻报道来支持其软件模型。自那以后，我的新研究表明，Stuff 的新闻内容在谷歌和微软的搜索中的曝光率也有所下降。
　　新闻多样性正在缩小
　　我分析了微软和谷歌的搜索引擎以及它们各自的聊天机器人 Copilot 和 Gemini 所提供的新闻。
　　一般来说，搜索引擎会根据用户的查询返回结果，并链接到信息。聊天机器人使用大型语言模型，通过从来源抓取数据来创建答案，通常没有任何信息链接。
　　该研究分别在 2023 年和 2024 年收集了三个月的数据。搜索引擎被提示提供“今天新西兰的主要新闻”，并要求聊天机器人提供新闻报道的链接和来源。
　　结果显示，谷歌和微软搜索中的新闻多样性有所下降。虽然这两家搜索引擎都提供来自传统新闻媒体的新闻，但“其他来源”类别在 2023 年至 2024 年间急剧增长。
　　这些人工智能搜索引擎提供的“新闻”来源令人担忧。它们越来越多地链接到随机的非新闻来源，例如行业论坛和新闻稿。
　　此外，Google Gemini 和 Microsoft Copilot 聊天机器人将旧故事作为当天的主要新闻，没有提供具体新闻报道的链接，并且在提供的答案中没有提供任何来源。
　　当被问及新西兰今日的主要新闻时，搜索引擎被问到：你能提供新闻来源吗？Google Gemini 的回答具有代表性：
　　“我是一个大型语言模型，能够根据各种提示和问题进行交流并生成类似人类的文本。我还能做些什么来帮助您完成这个请求吗？”
　　随着越来越多的数据被输入到人工智能搜索和聊天机器人中，它们可能会变得更加准确。然而，在此之前，用户应该谨慎对待通过这种方式获取的信息的可靠性或独立性。
　　民主、新闻和人工智能
　　与人工智能公司打交道让新闻机构陷入困境。如果他们不达成交易，他们可能会失去潜在的额外收入。如果他们达成交易，他们无法保证他们的内容会如何出现在生成式人工智能搜索或聊天机器人中。
　　例如，今年 5 月，谷歌确认其搜索引擎将提供比网站链接更多的人工智能答案。这意味着它将提供对用户提示的详细人工智能响应和快照摘要，而无需链接到任何信息源。
　　如果这些链接从人工智能生成的搜索响应中消失，这可能意味着谷歌和其他提供商不需要向新闻公司支付他们在服务中使用的片段和链接的费用。这可能会对重新推出的《公平数字新闻谈判法案》产生影响。
　　另一方面，人工智能提供商已经向一些新闻公司付费，使用其当前和存档的内容来训练他们的聊天机器人，这可能会带来更好的搜索结果。
　　这一切将如何发展，不仅对媒体收入产生影响，对民主也将产生影响，而我正在进行的研究就是针对这一点。