人工智能“裸体”网站因伤害人们而被起诉。我们如何对抗深度伪造滥用？

Josiah02 · 发表于 2024-8-22 08:07:12

上周，旧金山市检察官办公室提起了一项具有里程碑意义的诉讼。该诉讼指控16 个“nudify”网站违反了美国有关非自愿亲密照片和儿童虐待材料的法律。
“Nudify” 网站和应用程序使用起来很简单。任何人都可以上传真人照片，生成一张假的但逼真的裸体照片。几秒钟内，某人的照片就变成了一张露骨的照片。
2024 年上半年，诉讼中提到的 16 个网站的访问量已超过 2 亿次。其中一个网站称，“想象一下，你浪费时间带她出去约会，而你只需使用 [删除的网站] 就能得到她的裸照。”
这些网站也在社交媒体上做广告。自今年年初以来，社交媒体上 nudify 应用或网站的广告增长了 2,400%。
受害者可以做什么？
即使图像看起来是假的，深度伪造滥用也会造成严重伤害。它会损害一个人的声誉和职业前景。它会对人的身心健康产生不利影响，包括社会孤立、自残和对他人的信任丧失。
许多受害者甚至不知道自己的图片已被制作或分享。如果他们知道，他们可能会成功地向主流平台举报这些内容，但却很难将其从私人设备或几乎没有保护措施的“流氓”网站上删除。
如果有人在未经受害者同意的情况下分享了虚假的、非受害者自愿的亲密照片，受害者可以向数字平台举报。
如果他们在澳大利亚，或者犯罪者在澳大利亚，受害者可以向电子安全专员举报，专员可以代表他们删除相关内容。
数字平台能做什么？
数字平台有禁止未经同意分享色情深度伪造视频的政策。但这些政策并不总是得到始终如一的执行。
尽管大多数 nudify 应用已从应用商店下架，但仍有一些应用仍在。有些“仅”允许用户创建近乎裸体的图像——例如，穿着比基尼或内衣的图像。
科技公司可以采取很多措施来阻止这种现象的蔓延。社交媒体、视频分享平台和色情网站可以禁止或删除裸体广告。他们可以屏蔽“脱衣”或“裸体”等关键词，并向使用这些搜索词的人发出警告。
更广泛地说，科技公司可以使用工具来检测假图像。开发人工智能图像生成工具的公司需要加入“护栏”，以防止创建有害或非法内容。
对合成和人工智能生成的内容进行水印和标记很重要，但一旦图片被分享，效果就不大了。数字哈希还可以防止将来分享未经同意的内容。
一些平台已经使用此类工具来解决深度伪造滥用问题。它们是解决方案的一部分，但我们不应该依赖它们来解决问题。
搜索引擎也发挥着作用。它们可以降低 Nudify 和非自愿深度伪造网站的可见性。上个月，谷歌宣布了几项针对深度伪造滥用的措施。当有人举报非自愿的露骨深度伪造时，谷歌可以阻止内容出现在搜索结果中并删除重复的图片。
政府还可以出台法律和监管框架来应对深度伪造滥用问题。这可以包括阻止访问Nudify 和 Deepfake 网站，尽管 VPN 可以绕过被阻止的网站。
法律是怎么说的？
在澳大利亚，未经成年人同意分享私密照片，或威胁分享私密照片均属刑事犯罪。
访问、传播、索取或持有虐待儿童材料也属于联邦犯罪。这包括虚构或伪造的图像，包括图画、卡通或使用人工智能生成的图像。
根据澳大利亚各州和领地的法律，成人的“私密照片”定义广泛，包括经过数字修改或处理的照片。目前，只有分享或威胁分享未经同意的合成私密照片才构成犯罪。维多利亚州是个例外，该州对制作私密照片（包括数字制作的照片）另行规定了刑事犯罪。
6 月，一项法案被提出，旨在修改联邦法律，将未经同意分享私人性材料的行为单独定为犯罪。最高刑期为 6 年。该法案明确提到，描述该人的照片、视频或音频是“未经修改的”还是“使用技术创建或修改的”，都无关紧要。
该法案还包括两项加重罪行，如果分享此类图片的人也创建或修改了这些图片，最高可判处七年监禁。
法律是有用的，但不能完全解决问题。执法部门通常只有有限的资源进行调查。跨司法管辖区工作，特别是在其他国家，也可能很困难。对于受害者幸存者来说，追寻刑事司法之路可能会带来进一步的情感伤害。
另一种选择是根据联邦网络安全法采取民事补救措施。由网络安全专员实施的民事处罚包括对分享或威胁分享非自愿图片的用户和科技公司发出正式警告和处以高额罚款。
我们必须提高我们的数字素养
区分真假图像变得越来越困难。即使图像看起来是“假的”或被标记为“假的”，人们仍然会相信它们是真实的。
因此，投资数字素养至关重要。数字素养意味着培养批判性思维技能，以便人们能够评估和质疑错误信息。
其他措施包括提高人们对深度伪造滥用危害的认识，以及加强对尊重关系和性行为的教育。另一个需要解决的问题是色情素养，以提高对这一主题的批判性思维，而不仅仅是关注“不切实际的期望”。
参与深度伪造滥用的肇事者、开发这些工具的技术开发人员以及允许其传播的科技公司都必须承担责任。但检测、预防和应对这种滥用最终需要全面的创新解决方案。

账号		自动登录	找回密码
密码			立即注册