Twitter 上虚假的头像有多普遍？

Josiah02

自动化社交媒体资料是传播宣传的有力工具。它们通常以人工智能生成的个人资料图片为特色。研究人员目前正在研究识别此类图像的方法。
波鸿的研究人员与科隆和萨尔布吕肯的同事联手调查了社交网络 Twitter（更名为 X）上使用人工智能(AI) 生成的个人资料图片的数量。他们分析了近 1500 万个账户，发现其中 0.052% 的账户使用人工智能生成的人物图片作为头像。
“这听起来可能不算什么，但这类图片在 Twitter 上很常见，”德国波鸿鲁尔大学的首席作者乔纳斯·里克尔 (Jonas Ricker) 说道。“我们的分析还表明，许多账户都是虚假资料，用于传播政治宣传和阴谋论等内容。”
该团队于 10 月 1 日在帕多瓦举行的第 27 届攻击、入侵和防御研究国际研讨会（RAID 2024 ）上展示了他们的研究成果。
为了开展这项研究，波鸿鲁尔大学的研究人员与萨尔布吕肯 CISPA 亥姆霍兹信息安全中心和科隆 GESIS—莱布尼茨社会科学研究所的同事合作开展了这项研究。
数千个账户含有虚假头像
“目前的人工智能技术让我们能够创建看似真实的图像，这些图像可以在社交媒体上用来创建看似真实的账户，”里克尔解释道。到目前为止，很少有研究对这种人工智能生成的个人资料图片的普及程度进行研究。
研究人员训练了一种人工智能工具来区分真实图像和人工智能生成的图像。该模型利用 2023 年 3 月收集的数据，对大约 1500 万个 Twitter 账户的个人资料图片进行了自动分析。
在从数据集中排除所有没有肖像图像作为头像的账户后，研究人员留下了大约 43% 的账户用于分析。该模型将其中 7,723 个归类为 AI 生成的账户。此外，研究人员还进行了随机手动检查以验证结果。
下一步，该团队研究了使用人工智能生成图像的账户与使用真人照片的账户在平台上的表现。假照片账户的平均关注者较少，因此关注的账户也较少。
“我们还注意到，超过一半带有虚假图片的账户是在 2023 年首次创建的；在某些情况下，几个小时内就建立了数百个账户——这清楚地表明他们不是真正的用户，”Ricker 总结道。
在最初收集数据 9 个月后，研究人员检查了假图片账户和同等数量的真实图片账户是否仍然活跃，发现此时超过一半的假图片账户已被 Twitter 屏蔽。“这再次表明这些账户的行为不诚实，”里克说。
虚假信息和政治宣传
研究人员还分析了虚假图片账户在 Twitter 上传播的内容。一些反复出现的主题出现了，例如政治——通常涉及特朗普、COVID-19 和疫苗接种、乌克兰战争、彩票和金融，包括加密货币。“我们只能推测那里发生了什么，”里克说。“但可以公平地假设，一些账户是为了传播有针对性的虚假信息和政治宣传而创建的。”
展望未来，该团队计划继续研究自动检测假图像，包括由较新的 AI 模型生成的图像。在目前的研究中，研究人员将自己限制在“StyleGAN 2”模型上，这是 thispersondoesnotexist.com 网站所基于的模型。只需单击一下，即可使用此网站生成人物假图像。
“我们推测该网站经常被用来制作人工智能生成的个人资料图片，”里克尔说。“这是因为与使用陌生人的真实图像作为头像相比，这种人工智能生成的图像更难追踪。”