专家探讨深度伪造的用途

Josiah02

　　数字工具可以以比以往更令人信服、更难以察觉的方式改变我们自己和他人的形象。它们可以在电影中创造壮观的特效。但它们也会在未经他人同意的情况下用于改变他人的图像或声音，或用于制造旨在愚弄人们的宣传。
　　Mary Ton 是大学图书馆的教授兼数字人文图书管理员，她的专长包括人工智能在人文学科中的应用。她与新闻局艺术和人文编辑 Jodi Heckel 讨论了深度伪造的使用。
　　深度伪造到底是什么？它们是如何制作的？
　　Deepfakes 的名称来自深度学习，这是计算机科学中的一种方法，用于研究大量图像、声音和视频中的模式。这些模式通过数学方程式表示，这些方程式非常复杂，类似于人类大脑中密集的神经元网络，使这些算法具有人工智能。
　　当计算机看到人类图像时，它会在像素（数字图像的基本构成要素）中寻找模式。对于声音，计算机会将声波转换为视觉表示，然后使用图像识别技术识别模式，其方式与处理图片的方式大致相同。Deepfakes 会应用它们对人类外观和声音的了解来创建模仿人类面部和声音的新像素排列。
　　处理图像并不是什么新鲜事。从高度风格化的埃及法老阿肯那顿雕像到经过化学修饰的维多利亚时代女性腰围照片，我们一直在使用视觉表现来投射我们的理想自我。数字技术为这些理想化的图像带来了前所未有的复杂程度，使得很难确定图像被修改了多少。
　　娱乐行业中深度伪造技术是如何以积极和险恶的方式被运用的？
　　深度伪造技术在最佳情况下可以帮助我们交流。如果你看过《夺宝奇兵 2：命运之表盘》，你就会知道特效艺术家如何使用深度伪造技术让演员以数字方式变年轻，而瑞恩·雷诺兹在《自由人》中饰演的肌肉发达的替身是一个搞笑的例子，展示了他们如何将一个演员的头叠加到另一个演员的身体上。
　　YouTube 上有一些频道专门播放深度伪造名人日常片段，比如这个基努·里维斯 (Keanu Reeves) 假装自己打电话的片段。深度伪造技术也被广泛应用于配音过程中，以使演员的嘴唇动作与音轨相匹配，从而创造出跨语言更无缝的体验。
　　伊利诺伊州教学创新中心一直在探索深度伪造的教育应用，帮助教师使用 HeyGen 创建 AI 头像。
　　最糟糕的是，深度伪造会损害表演者的生计和福祉。配音行业受到的打击尤其严重，因为公司使用人工智能生成的旁白而不是雇佣演员。更糟糕的是，女演员和 Twitch 主播发现他们的肖像在未经他们同意的情况下被用于制作色情内容。
　　虽然深度伪造开辟了新的创造可能性，但这些应用却损害了艺术家按照自己的方式为娱乐业做出贡献的机会。
　　您认为在本次总统选举周期中，政治深度伪造的使用情况会如何？
　　在这个选举季，各个政治派别的选民在看到候选人的图像、视频和录音时都需要特别警惕。我们已经看到了两个突出的例子，说明深度伪造技术是如何被用来误导和误导选民的。
　　初选期间，深度伪造的乔·拜登致电新罕布什尔州居民，劝阻他们投票，英国广播公司报道称，政治倡导团体正在使用人工智能生成的唐纳德·特朗普图像来争取黑人选民。
　　社交媒体提供了一个快速匿名分享深度伪造内容的国际平台，因此要特别警惕您在 Facebook、X、Tik Tok 和 Instagram 上遇到的内容。
　　与此同时，我们看到立法者采用人工智能来促进有关无障碍和包容性的对话。弗吉尼亚州众议员詹妮弗·韦克斯顿使用人工智能生成的声音发表演讲，强调自适应技术如何支持像她这样的神经系统疾病患者。我认为我们将看到更多候选人讨论人工智能，并提出政策来解决其对政治话语、艺术和隐私的影响。
　　有没有针对深度伪造图像或视频的监管规定？监管这些图像或视频存在哪些问题？
　　目前还没有统一的方法来解决深度伪造内容的传播问题，但我们看到欧盟和美国对使用生成式人工智能工具创建的图像和视频进行标记的势头越来越大。到目前为止，这一运动由 Meta 通过 Instagram 和 Facebook 以及知名新闻机构引领。然而，由于 Photoshop 等照片处理工具非常普遍，因此很难制定实施一致标记内容策略的坚定指导方针。
　　让问题更加复杂的是，对受版权保护的内容进行 AI 训练是合法的。法院倾向于将此视为对材料的合理使用，因为它将内容转化为模式的算法表示。内容的访问可能受到许可协议和服务条款的限制。
　　如果您是内容创作者，查看网站的服务条款以了解其是否允许数据挖掘尤为重要。如果网站允许，那么您发布的任何内容都可用于训练生成式 AI 工具。DeviantArt 和 Facebook 等一些网站允许您选择退出。我们还看到了保护艺术家及其作品的工具的兴起。Glaze 和 AntiFake 等程序会在图像和音频中引入噪音以破坏深度学习过程，使受保护的内容更难以进行深度伪造。
　　如何检测假图像或视频？
　　最好的检测者就是你！自动检测很困难，因为这些工具依赖于最初用于创建深度伪造的相同模式识别技术。我建议使用 SILL 方法来评估内容：停止、调查、观察和倾听。
　　停止：Deepfakes 旨在让你做出反应。在重新分享或对内容采取行动之前暂停，让你有时间评估内容。
　　调查来源：使用 Google Lens 或 TinEye 等反向图像搜索可以帮助您识别图像的原始来源。
　　寻找瑕疵：Deepfakes 往往过于完美，因此要留意模糊、相机移动和阴影等问题。手势使用有限或手指数量出乎意料可能是 AI 生成的图像的迹象。
　　听：深度伪造的声音通常听起来很单调，缺乏人类语音的音调上升和下降。