新工具利用人工智能“指纹”检测被修改的照片和视频

Josiah02 · 发表于 2024-9-13 13:53:07

随着人工智能网络变得更加熟练和更容易访问，经过数字处理的“深度伪造”照片和视频越来越难以检测。纽约州立大学宾汉姆顿分校领导的新研究使用频域分析技术分解图像，并寻找可能表明它们是由人工智能生成的异常。
在《信息科学中的颠覆性技术 VIII》上发表的一篇论文中，宾汉姆顿大学电气与计算机工程系的博士生 Nihal Poredi、Deeraj Nagothu 和教授 Yu Chen 对真实图像和虚假图像进行了比较，这些图像中不仅有明显的图像篡改痕迹，如拉长的手指或乱码背景文字。论文的合作者还包括硕士生 Monica Sudarsan 和弗吉尼亚州立大学的 Enoch Solomon 教授。
该团队利用 Adobe Firefly、PIXLR、DALL-E 和 Google Deep Dream 等流行的生成式 AI 工具创建了数千张图像，然后使用信号处理技术对其进行分析，以了解其频域特征。AI 生成的图像与自然图像的频域特征差异是使用机器学习模型区分它们的基础。
在使用名为“生成对抗网络图像认证”（GANIA）的工具比较图像时，研究人员可以根据人工智能生成伪造图像的方式发现异常（称为伪影）。构建人工智能图像的最常见方法是上采样，即克隆像素以增大文件大小，但在频域中留下指纹。
陈说：“当你用真正的相机拍照时，你会获得来自整个世界的信息——不仅仅是你想要拍摄的人、花、动物或事物，还有各种环境信息都嵌入其中。”
“有了生成式人工智能，图像就会聚焦于你要求它生成的内容，无论你要求它生成的内容有多详细。例如，你无法描述空气质量如何、风是如何吹的，或者所有作为背景元素的细微事物。”
Nagothu 补充道：“虽然有许多新兴的人工智能模型，但这些模型的基本架构基本保持不变。这使我们能够利用其内容操纵的预测性质，并利用独特而可靠的指纹来检测它。”
该研究论文还探讨了如何使用 GANIA 识别照片的 AI 来源，从而限制通过深度伪造图像传播的错误信息。
“我们希望能够识别不同 AI 图像生成器的‘指纹’，”波雷迪说。“这将使我们能够构建用于验证视觉内容的平台，并防止与虚假信息活动相关的任何不良事件。”
除了深度伪造图像外，该团队还开发了一种检测基于人工智能的伪造音频视频录制的技术。开发的工具名为“DeFakePro”，利用了环境指纹，即电网频率 (ENF) 信号，该信号是由电网中的轻微电气波动产生的。就像微妙的背景嗡嗡声一样，这种信号在录制媒体文件时自然嵌入其中。
通过分析这个与录音时间和地点相关的信号，DeFakePro 工具可以验证录音是真实的还是被篡改过的。该技术对深度伪造非常有效，并进一步探索了如何保护大规模智能监控网络免受此类基于人工智能的伪造攻击。在我们日益互联的世界中，这种方法可以有效地打击虚假信息和数字欺诈。
“虚假信息是当今全球社会面临的最大挑战之一，”波雷迪说。“生成式人工智能在许多领域的广泛使用导致了其被滥用。再加上我们对社交媒体的依赖，这为虚假信息灾难创造了一个爆发点。这在社交媒体和言论限制最少的国家尤为明显。因此，必须确保在线共享数据（特别是视听数据）的完整性。”
尽管生成式人工智能模型已被滥用，但它们也为图像技术的发展做出了重大贡献。研究人员希望帮助公众区分虚假和真实内容——但跟上最新的创新可能是一个挑战。
“人工智能发展如此之快，一旦你开发出深度伪造检测器，下一代人工智能工具就会考虑这些异常并进行修复，”陈说。“我们的工作是尝试做一些打破常规的事情。”

账号		自动登录	找回密码
密码			立即注册

新工具利用人工智能“指纹”检测被修改的照片和视频

浏览过的版块