研究人员训练人工智能在线检测外国干涉

Josiah02 · 发表于昨天 13:37

社交媒体等现代技术使美国的敌人比以往更容易在情感上操纵美国公民。
美国官员警告称，外国对手正试图在网上制造大量虚假、误导性信息，以左右美国舆论。就在今年 7 月，美国司法部宣布，已挫败克里姆林宫支持的虚假宣传活动，该活动利用近一千个虚假社交媒体账户试图传播虚假信息。
虽然人工智能在虚假信息战中通常用于进攻以生成大量内容，但人工智能现在也在防御中发挥着重要作用。
佛罗里达国际大学工程与计算学院教授马克·芬莱森是训练人工智能理解故事的专家。他花了二十多年的时间研究这个课题。
有说服力但却是虚假的故事
讲故事对于传播虚假信息非常重要。
“真挚的叙述或个人轶事往往比事实更能吸引观众，”芬莱森说。“故事在克服对某个想法的抵触情绪方面特别有效。”
例如，气候活动家可能更能说服观众关注塑料污染问题，比如分享一只获救的海龟鼻子里插着吸管的亲身经历，而不是仅仅引用统计数据，芬莱森说。这个故事让这个问题变得可以理解。
“我们正在探索用故事推动争论的不同方式，”他解释道。“这是一个具有挑战性的问题，因为社交媒体帖子中的故事可能只有一句话那么短，有时，这些帖子可能只是提及众所周知的故事，而不会明确复述它们。”
可疑用户名
Finlayson 的团队还在探索 AI 如何分析社交媒体资料中的用户名或句柄。博士生、最近与 Finlayson 共同发表论文的合著者 Azwad Islam 解释说，用户名通常包含有关用户身份和意图的重要线索。
该论文发表在人工智能会议“国际 AAAI 网络和社交媒体会议”论文集上。
“用户名可以透露很多用户信息，以及他们希望别人如何看待他们，”伊斯兰解释道。“例如，一个自称是纽约记者的人可能会选择‘@AlexBurnsNYT’而不是‘@NewYorkBoy’这个用户名，因为听起来更可信。然而，这两个用户名都表明用户是与纽约有联系的男性。”
金融情报机构 (FIU) 团队演示了一种可以分析用户句柄的工具，可以可靠地揭示一个人的姓名、性别、位置甚至个性（如果该信息在句柄中暗示的话）。
虽然用户名本身无法确认账户是否为假，但它对于分析账户的整体真实性至关重要——尤其是随着人工智能理解故事的能力不断进步。
伊斯兰说：“通过将用户名解读为账户所呈现的更大叙述的一部分，我们相信用户名可能成为识别虚假信息来源的关键工具。”
可疑的文化宝藏
物体和符号在不同文化中可能具有不同的含义。如果人工智能模型不了解这些差异，它可能会犯下严重错误，无法解读故事。外国对手也可以使用这些符号来让他们的信息对目标受众更有说服力。
Anurag Acharya 是 Finlayson 的前博士生，他研究过这个问题。他发现用多元文化视角训练人工智能可以提高人工智能的故事理解能力。
“故事里可能会说，‘穿着白色连衣裙的女人欣喜若狂。’一个专门接受西方婚礼故事训练的人工智能模型可能会读到这句话并说，‘太棒了！’但如果我妈妈看到这句话，她会非常生气，因为我们只在葬礼上穿白色衣服，”来自印度教家庭的阿查里亚说。
人工智能理解这些细微差别至关重要，这样它才能检测到外国对手何时使用文化信息和符号来产生更大的恶意影响。
Acharya 和 Finlayson最近发表了一篇关于该主题的论文，该论文在人工智能会议计算语言学协会（NAACL）北美分会会议的一个研讨会上发表。
帮助人工智能在混乱中找到秩序
理解故事的另一个困难是，叙事中事件的顺序很少能整齐、准确地排列。相反，事件往往是零散的，与其他故事情节交织在一起。对于人类读者来说，这增加了戏剧效果；但对于人工智能模型来说，如此复杂的相互关系可能会造成混乱。
Finlayson 对时间线提取的研究极大地提高了人工智能对叙述中事件序列的理解。
“在故事中，你可以用许多不同、复杂的方式反转和重新安排事件。这是我们与人工智能合作的关键事项之一。我们帮助人工智能了解如何描绘现实世界中发生的不同事件，以及它们如何相互影响，”芬莱森说。
“这是一个很好的例子，说明人们很容易理解但对机器来说却具有挑战性。人工智能模型必须能够准确地排列故事中的事件顺序。这不仅对于识别虚假信息很重要，而且对于支持许多其他应用程序也很重要。”
金融情报机构 (FIU) 团队在帮助人工智能理解故事方面取得的进步，旨在帮助情报分析人员以新的效率和准确性打击虚假信息。

账号		自动登录	找回密码
密码			立即注册