人工智能正在加剧韩国的深度伪造色情危机。其背后隐藏着什么？又该如何解决？
谈论人工智能时很难不谈论深度伪造色情——这是一种有害的人工智能副产品，被用来针对从泰勒·斯威夫特到澳大利亚女学生的所有人。但初创公司 Security Heroes 最近的一份报告发现，在从不同来源分析的 95,820 个深度伪造色情视频中，53% 的视频中出现了韩国歌手和女演员，这表明这个群体受到了不成比例的攻击。
那么，韩国深度伪造问题背后的原因是什么？我们又能做些什么呢？
受害者包括青少年和未成年人
Deepfakes 是经过数字处理的照片、视频或音频文件，可以令人信服地描述某人说过或做过他们从未做过的事情。在韩国青少年中，制作 Deepfakes 已经变得非常普遍，有些人甚至认为这是一种恶作剧。而且他们不仅仅针对名人。
Telegram 上专门设立了群聊，针对女性进行基于图片的性侵犯，对象包括初中和高中学生、教师和家庭成员。在KakaoTalk 、Instagram 和 Facebook等社交媒体平台上发布照片的女性也经常成为攻击目标。
犯罪者使用人工智能机器人生成虚假图像，然后连同受害者的社交媒体账户、电话号码和 KakaoTalk 用户名一起出售和/或随意传播。据《卫报》报道，一个 Telegram 群组吸引了约 22 万名成员。
缺乏意识
尽管性别暴力给韩国受害者造成了严重伤害，但人们对此问题的认识仍然缺乏。
近几十年来，韩国经历了快速的技术发展。韩国的智能手机拥有量居世界第一，互联网连接率也最高。包括餐饮、制造业和公共交通在内的许多工作正在被机器人和人工智能迅速取代。
但人权观察指出，该国在性别平等和其他人权措施方面的进步并未跟上数字化发展的步伐。研究表明，技术进步实际上可能加剧性别暴力问题。
自 2019 年以来，韩国针对儿童和青少年的网络性犯罪一直是一个巨大的问题——尤其是由于“N 号房间”案件。该案涉及数百名年轻受害者（其中许多是未成年人），约 260,000 名参与者分享了剥削性和强制性的亲密内容。
此案引发广泛愤怒，并呼吁加强保护。它甚至促使《2020 年性犯罪处罚特别案件法》设立了更严格的条件。但尽管如此，最高检察院表示， 2021 年被捕的 17,495 名网络性犯罪者中，只有 28% 被起诉——凸显了有效解决网络性犯罪方面持续存在的挑战。
2020 年，司法部数字性犯罪特别工作组提出了约 60 项法律规定，但这些规定至今仍未被采纳。2022 年，尹锡烈总统政府就职后不久，该工作组便解散了。
2022年总统竞选期间，尹永哲表示韩国“不存在结构性性别歧视”，并承诺废除负责防止性别暴力的主要部门——性别平等与家庭部。该职位自今年2月以来一直空缺。
技术也可以成为解决方案吗？
但人工智能并不总是有害的——韩国也提供了这方面的证据。2022 年，首尔市政府运营的数字性犯罪支持中心开发了一种工具，可以全天候自动跟踪、监控和删除深度伪造图像和视频。
这项技术获得了 2024 年联合国公共行政奖，它帮助将发现深度伪造的时间从平均两小时缩短至三分钟。尽管这种尝试有助于减少深度伪造带来的进一步危害，但它们不太可能成为彻底的解决方案，因为对受害者的影响可能是持久的。
为了实现有意义的改变，政府需要要求社交媒体平台和消息应用程序等服务提供商对确保用户安全负责。
团结一致
8月30日，韩国政府宣布计划推动立法，将韩国境内持有、购买和观看深度伪造作品定为犯罪。
然而，在韩国深度伪造被认定为一种有害的性别暴力形式之前，调查和审判可能仍会继续失败。解决深度伪造问题需要采取多方面的方法，包括更强有力的法律、改革和教育。
韩国当局还必须帮助提高公众对性别暴力的认识，不仅要注重支持受害者，还要制定积极的政策和教育计划，以防止暴力行为的发生。
页:
[1]