调查受访者认为，寻找露骨色情的“深度伪造”比制作或分享此类视频更容易被接受
虽然人们对色情“深度伪造”的关注主要集中在名人身上，但这些用人工智能生成的非自愿性图片和视频对公众和公众以外的人都造成了伤害。随着文本到图像的人工智能模型变得越来越复杂和易于使用，此类内容的数量只会增加。不断升级的问题导致谷歌最近宣布将努力在搜索结果中过滤掉这些深度伪造作品，参议院最近通过了一项法案，允许受害者向深度伪造作品创作者寻求法律赔偿。
鉴于这种日益增长的关注，华盛顿大学和乔治城大学的研究人员希望更好地了解公众对他们所谓的“合成媒体”的创作和传播的看法。在一项调查中，315 人大多认为制作和分享合成媒体是不可接受的。但强烈反对寻找这些媒体的受访者要少得多——即使它们描绘了性行为。
然而先前的研究研究表明，其他人观看未经同意分享的裸照等基于图像的虐待行为会严重伤害受害者。在包括华盛顿州在内的几乎所有州，创建和分享此类未经同意的内容都属于犯罪行为。
“在我们寻找减少合成媒体危害的方法时，以同意为中心是关键，尤其是关于私密图像的讨论，无论是通过技术、公共信息还是政策，”主要作者 Natalie Grace Brigham 说道，她在完成这项研究时是华盛顿大学 Paul G. Allen 计算机科学与工程学院的硕士生。“在合成裸照中，被分享的并不是主体的身体——正如我们通常所认为的那样。因此，我们需要扩展关于同意和隐私的规范和想法，以适应这项新技术。”
研究人员于 8 月 13 日在费城举行的第 20 届可用隐私和安全研讨会上展示了他们的研究成果。这项研究成果还发表在arXiv预印本服务器上。
“从某种意义上说，我们正处于侵犯人们隐私权的新前沿，”联合资深作者、华盛顿大学艾伦学院教授 Tadayoshi Kohno 说道。“这些图像是合成的，但它们仍然与真人相似，因此寻找和观看这些图像对那些人来说是有害的。”
这项调查是研究人员通过Prolific网站进行的，该网站会向人们支付报酬以就各种主题做出回应，调查要求美国受访者阅读有关合成媒体的短文。
研究团队在这些场景中改变了变量，例如谁创建了合成媒体（亲密伴侣、陌生人）、为什么创建它（为了伤害、娱乐或性快感）以及展示了什么动作（主体进行性行为、进行运动或讲话）。
随后，受访者根据情景对各种行为（制作视频、以不同方式分享、寻找视频）进行排序，从“完全不可接受”到“完全可以接受”，并用一两句话解释他们的反应。最后，他们填写了同意和人口统计信息的调查问卷。受访者年龄在 18 岁以上，其中 50% 为女性，48% 为男性，2% 为非二元性别者，1% 为无性别者。
总体而言，受访者认为创建和共享合成媒体是不可接受的。对于创建这些媒体，受访者的完全不可接受或有点不可接受的评分中值为 90%，而对于共享这些媒体，受访者的完全不可接受或有点不可接受的评分中值为 94%。但对于寻找合成媒体，受访者的不可接受评分中值仅为 53%。
与其他性别的受访者相比，男性更有可能认为创建和共享合成媒体是可以接受的，而对性同意持赞同态度的受访者更有可能认为这些行为是不可接受的。
“关于防止合成裸照的政策讨论很多。但我们没有好的技术工具来做到这一点，同时我们需要保护自愿使用的情况，”乔治城大学计算机科学助理教授、共同资深作者艾丽莎·M·雷德迈尔斯 (Elissa M. Redmiles) 表示。“相反，我们需要改变社会规范。
因此，我们需要在搜索中添加威慑信息等手段——我们已经看到，这可以有效减少观看儿童性虐待图片——并且在学校开展以同意为基础的教育，重点关注这类内容。”
受访者认为，亲密伴侣为了娱乐而制作人们运动或讲话的合成媒体是最容易接受的。相反，几乎所有受访者都认为，出于伤害目的而制作和分享亲密伴侣的性爱深度伪造视频是完全不可接受的。
受访者的理由各不相同。有些人认为合成媒体只有在其结果有害时才是不可接受的。例如，一位受访者写道：“它并没有伤害我或勒索我……只要它不被分享，我认为就可以了。”然而，其他人则以隐私权和同意权为中心。另一位受访者写道：“我觉得以这种方式操纵我的形象是不可接受的——我的身体和它的外观属于我。”
研究人员指出，未来该领域的工作应该探索非自愿合成媒体的流行程度、其创建和共享的渠道，以及阻止人们创建、共享和寻找非自愿合成媒体的不同方法。
“有些人认为，用于创建合成图像的人工智能工具将给社会带来益处，比如对艺术或人类创造力，”艾伦学院博士生、合著者米兰达·魏 (Miranda Wei) 说。
“然而，我们发现大多数人认为在大多数情况下创建他人的合成图像是不可接受的——这表明在评估新技术的影响和防止危害方面我们还有很多工作要做。”
更多信息： Natalie Grace Brigham 等人，《侵犯我的身体：对人工智能生成的非自愿（亲密）图像的看法》，arXiv (2024)。DOI ：10.48550/arxiv.2406.05520
期刊信息： arXiv
页:
[1]