我们距离精准的人工智能假新闻检测器还有多远？

Josiah02 · 发表于 2024-11-7 23:28:20

为了解决社交媒体和新闻网站上的虚假内容危害这一雄心勃勃的目标，数据科学家们正在发挥创造力。
虽然仍处于训练阶段，但用于创建 ChatGPT 等聊天机器人的大型语言模型 (LLM)已被用于识别虚假新闻。通过更好的检测，人工智能虚假新闻检查系统可能能够警告并最终抵消深度伪造、宣传、阴谋论和错误信息造成的严重危害。
下一代人工智能工具将个性化检测虚假内容并保护我们免受其害。为了最终实现以用户为中心的人工智能，数据科学需要关注行为和神经科学。
最近的研究表明，我们可能并不总是有意识地知道我们遇到了假新闻。神经科学正在帮助我们发现无意识中发生的事情。生物标记（如心率、眼球运动和大脑活动）似乎会随着虚假和真实内容的反应而发生微妙的变化。换句话说，这些生物标记可能是表明我们是否被骗的“迹象”。
例如，当人类观察面部时，眼球追踪数据显示，我们会扫描眨眼频率和由血流引起的肤色变化。如果这些元素看起来不自然，它可以帮助我们判断我们看到的是深度伪造。这些知识可以为人工智能带来优势——我们可以训练它模仿人类寻找的东西，等等。
人工智能假新闻检查器的个性化是通过利用人类眼球运动数据和大脑电活动的结果来实现的，这些数据可以显示哪些类型的虚假内容对神经、心理和情感产生最大影响，以及对谁产生最大影响。
通过了解我们特定的兴趣、性格和情绪反应，人工智能事实核查系统可以检测并预测哪些内容会引发我们最严重的反应。这可以帮助确定人们何时被欺骗以及哪种材料最容易欺骗人们。
抵消危害
接下来是定制保障措施。保护我们免受虚假新闻的危害还需要建立可以干预的系统——某种针对虚假新闻的数字对策。有几种方法可以做到这一点，例如警告标签、专家验证的可信内容链接，甚至要求人们在阅读某些内容时尝试考虑不同的观点。
我们自己的个性化人工智能假新闻检查器可以设计为给我们每个人提供其中一种对策，以抵消网上虚假内容造成的危害。
这种技术已经在试验中。美国研究人员研究了人们如何与社交媒体帖子的个性化人工智能假新闻检查器互动。它学会了将新闻推送中的帖子数量减少到它认为真实的帖子数量。作为概念验证，另一项使用社交媒体帖子的研究为每个媒体帖子定制了额外的新闻内容，以鼓励用户查看其他观点。
准确检测虚假新闻
但无论这一切听起来令人印象深刻还是反乌托邦，在我们沉迷其中之前，可能值得问一些基本问题。
大部分（如果不是全部的话）针对虚假新闻、深度伪造、虚假信息和错误信息的研究都凸显了测谎仪所面临的同样问题。
测谎仪有很多种，不仅仅是测谎仪。有些完全依赖于语言分析。还有一些系统旨在通过读取人们的面部表情来检测他们是否泄露了微情绪，从而暴露了他们在撒谎。同样，有些人工智能系统旨在检测一张脸是真实的还是深度伪造的。
在开始检测之前，我们都需要就谎言的模样达成共识，这样才能发现谎言。事实上，欺骗研究表明，这会更容易，因为你可以指导人们何时撒谎，何时说实话。因此，在训练人类或机器分辨谎言之前，你可以通过某种方式了解基本事实，因为他们会得到一些例子来作为判断的依据。
要知道一个专业的测谎仪有多好，取决于他们在撒谎时有多频繁地指出谎言（命中）。但同时，他们也不要经常误认为某人在撒谎（漏报）。这意味着他们需要在看到真相时知道真相是什么（正确拒绝），不要指责某人在撒谎（误报）。这指的是信号检测，同样的逻辑也适用于假新闻检测。
对于检测虚假新闻的人工智能系统来说，要想做到超级准确，命中率必须非常高（比如 90%），因此漏报率必须非常低（比如 10%），误报率必须保持在较低水平（比如 10%），这意味着真实新闻不会被称为虚假新闻。如果基于信号检测向我们推荐人工智能事实核查系统或人类系统，我们就能更好地了解它有多好。
最近的一项调查显示，有些情况下，新闻内容可能并非完全虚假或完全真实，但部分准确。我们之所以知道这一点，是因为新闻周期的速度意味着，一度被认为是准确的信息，后来可能会被发现是不准确的，反之亦然。因此，虚假新闻检查系统的工作已经做好了准备。
如果我们事先知道哪些是假新闻，哪些是真新闻，那么生物标记在无意识中分辨真假的准确度有多高呢？答案不是很准确。当我们遇到真假新闻时，神经活动通常是相同的。
当谈到眼动追踪研究时，值得了解的是，可以通过眼动追踪技术收集不同类型的数据（例如，我们的眼睛注视一个物体的时间长度，我们的眼睛在视觉场景中移动的频率）。
因此，根据分析内容，一些研究表明我们在查看虚假内容时会更加关注，而其他研究表明则相反。
我们到了嗎？
市场上的人工智能假新闻检测系统已经利用行为科学的见解来帮助标记和警告我们不要接触假新闻内容。因此，同样的人工智能系统开始出现在我们的新闻推送中，并为我们独特的用户资料提供定制保护，这并不难。所有这些的问题在于，我们仍然有很多基本知识需要了解，不仅要知道什么是有效的，还要检查我们是否想要这样做。
在最糟糕的情况下，我们只会将虚假新闻视为网络问题，以此作为使用人工智能解决该问题的借口。但虚假和不准确的内容无处不在，并在线下被讨论。不仅如此，我们不会默认相信所有虚假新闻，有时我们会在讨论中用它来阐明糟糕的想法。
在想象中的最佳情况下，数据科学和行为科学对虚假新闻可能造成的各种危害的规模充满信心。但即便如此，人工智能应用与科学魔法相结合可能仍无法替代不那么复杂但更有效的解决方案。

账号		自动登录	找回密码
密码			立即注册