“DeepFake-o-Meter”让深度伪造检测变得民主化

Josiah02 · 发表于 2024-9-12 15:17:32

当误导性信息在网上传播时，它会传播得很快。
然而，许多用于快速揭穿病毒照片、视频和音频的最佳工具仅供研究人员使用，例如布法罗大学的深度伪造专家 Siwei Lyu。
“从社交媒体用户到记者再到执法人员，每个人都必须通过像我这样的人来判断媒体内容是否有人工智能生成的迹象，”经常满足此类要求的吕说。“当时间紧迫时，他们无法立即得到结论性的分析。”
因此，Lyu 和他在 UB 媒体取证实验室的团队开发了DeepFake-o-Meter，它将几种最先进的深度伪造检测算法整合到一个开源的基于网络的平台中。用户只需注册一个免费帐户并上传媒体文件即可。结果通常在一分钟内即可返回。
自 11 月以来，该平台已收到 6,300 多份投稿。媒体机构利用该平台分析了各种人工智能生成的内容，从乔·拜登的自动电话告诉新罕布什尔州居民不要投票，到乌克兰总统泽连斯基向俄罗斯投降的视频。
“我们的目标是弥合公众与研究界之间的鸿沟，”纽约州立大学帝国学院创新教授、纽约州立大学工程与应用科学学院计算机科学与工程系 Lu 博士说道。“将社交媒体用户和研究人员聚集在一起对于解决深度伪造带来的许多问题至关重要。”
工作原理
DeepFake-o-Meter 的使用非常简单。
将图像、视频或音频文件拖放到上传框中。然后，根据列出的各种指标选择检测算法，包括准确率、运行时间和开发年份。
然后，每个算法都会给出内容由人工智能生成的可能性的百分比。
“我们不会就上传的内容做出强硬的断言。我们只是从广泛的方法中对其进行了全面的分析，”吕说，他也是布法罗大学信息诚信中心的联席主任，该中心致力于打击网络上不可靠和误导性的信息。“然后，用户可以利用这些信息自行判断这些内容是否真实。”
透明度
今年早些时候，Poynter 使用四种免费的在线深度伪造检测工具分析了拜登的假电话。DeepFake-o-Meter 的准确率最高，它给出的音频由人工智能生成的可能性为 69.7%。
Lyu 表示，他的工具的另一个独特之处在于透明度和多样性。DeepFake-o-Meter 是开源的，这意味着公众可以访问算法的源代码，并且采用了由 Lyu 和全球其他研究小组共同开发的算法，因此可以收集广泛的意见和专业知识。
“其他工具的分析可能准确，但它们不会透露得出结论所用的算法，用户只能看到一个答案，这可能会产生偏差，”Lyu 说道。“我们正尝试通过来自许多不同研究小组的开源代码提供最大程度的透明度和多样性。”
对研究人员也有好处
在上传媒体之前，该网站会询问用户是否愿意与研究人员分享。
Lyu 和他的团队主要在他们自己和其他研究团队编制的数据集上训练他们的算法，但他表示，将算法暴露给实际在线传播的媒体至关重要。到目前为止，上传到 DeepFake-o-Meter 的近 90% 的内容被用户怀疑是假的。
“新的、更复杂的深度伪造技术层出不穷。算法需要不断改进才能跟上时代，”吕说。“任何研究模型要想对现实世界产生影响，都需要现实世界的数据。”
平台的未来
Lyu 希望增强该平台的功能，而不仅仅是识别 AI 生成的内容，比如识别最有可能用于创建这些内容的 AI 工具。他的团队之前开发过这样的工具。
“这将提供线索，缩小幕后黑手的范围，”吕说。“仅仅知道媒体内容是虚构的还是被操纵的还不够。我们需要知道幕后黑手是谁，他们的目的是什么。”
尽管检测算法前景光明，但他警告称，人类仍将发挥重要作用。虽然算法可以检测到人眼或耳朵永远无法检测到的操纵迹象，但人类对现实运作方式的语义知识却往往是算法所不具备的。
“我们不能仅仅依赖算法或人类，”吕说。“我们需要两者。”
这就是为什么他希望 DeepFake-O-Meter 最终能够培育出自己的在线社区，让用户可以互相交流并帮助找出 AI 生成的内容。
“我喜欢把它看作是深度伪造赏金猎人的市场，”他说。“因为解决深度伪造问题需要大家共同努力。”

账号		自动登录	找回密码
密码			立即注册