受信任的电视医生利用“深度伪造”技术在社交媒体上宣传健康骗局
《英国医学杂志》今日发现，英国一些最知名的电视医生越来越多地被“深度伪造”视频，以在社交媒体上销售诈骗产品。记者克里斯·斯托克尔·沃克解释说，包括希拉里·琼斯、迈克尔·莫斯利和兰根·查特吉在内的可信名字被用来推广声称可以治疗高血压和糖尿病的产品，并销售大麻软糖。
深度伪造是指利用人工智能 (AI) 将真实人类的数字形象映射到不属于他们本人的视频上。关于其可信度的可靠证据可能很难获得，但最近的一项研究表明，多达一半的人在观看有关科学主题的深度伪造视频时无法将其与真实视频区分开来。
埃塞克斯郡的退休医生约翰·科马克 (John Cormack) 与《英国医学杂志》合作，试图了解社交媒体上所谓的深度伪造医生的规模。
“最重要的是，制作视频比研究、开发新产品并以传统方式将其推向市场要便宜得多，”他说。
深度伪造技术专家亨利·阿杰德 (Henry Ajder) 表示，社交媒体上大量可疑内容盗用知名医生和名人的形象，这是我们目前正在经历的人工智能革命的必然结果。“用于语音克隆和头像生成的人工智能工具的快速普及，改变了欺诈和冒充的格局。”
“这种活动明显增多，”琼斯说，他雇佣了一位社交媒体专家，在网上搜索歪曲他观点的深度伪造视频，并试图删除它们。“即使你这么做了，它们第二天也会以不同的名字出现。”
Meta 公司的一位发言人告诉《英国医学杂志》：“我们将对《英国医学杂志》重点介绍的案例展开调查。我们不允许出现故意欺骗或试图诈骗他人的内容，并且我们一直在努力提高检测和执法水平。我们鼓励任何看到可能违反我们政策的内容的人进行举报，以便我们进行调查并采取行动。”Meta 是 Facebook 和 Instagram 的母公司，Cormack 发现的许多视频都托管在这两个平台上。
斯托克尔-沃克写道，深度伪造的工作原理是利用人们的情绪，而当涉及医疗产品时，与向你介绍神奇药物或神奇医疗产品的人之间的情感联系就显得更为重要。
如果陌生人试图向你推销某种疗法，你可能会产生怀疑。但如果你在社交媒体、电视或广播上见过他们，你就更有可能相信他们说的话。
阿杰德表示，随着技术的进步，发现深度伪造也很困难：“很难量化这种新形式的深度伪造欺诈的有效性，但现在流传的视频数量不断增加，表明不良行为者确实取得了一些成功。”
对于那些肖像被盗用的人来说，他们似乎无能为力，但斯托克尔-沃克提供了一些建议，告诉你如果发现深度伪造作品该怎么做。例如，仔细查看内容，确保你的怀疑有理有据，然后发表评论，质疑其真实性。使用该平台的内置报告工具表达你的担忧，最后举报分享该帖子的人或账户。
页:
[1]