ChatGPT 能标记潜在恐怖分子吗？研究使用自动化工具和人工智能来分析暴力极端分子

Josiah02

一项研究表明，ChatGPT 等技术可以发挥补充作用，帮助分析恐怖分子特征并确定他们从事极端活动的可能性，从而提高反恐工作的效率。
这项研究题为《键盘背后的网络恐怖分子：用于心理语言学分析和威胁评估的自动文本分析》，发表在《语言攻击与冲突杂志》上。
查尔斯·达尔文大学（CDU）的研究人员为20后9/11后国际恐怖分子提供了20次公开声明，以对软件的语言探究和单词计数（LIWC）（LIWC）。
然后，他们向 ChatGPT 提供了该数据集中四名恐怖分子的陈述样本，并向该技术提出了两个问题：文本中的主要主题或话题是什么，以及传达的信息背后有什么不满？
ChatGPT 能够识别四名恐怖分子所选文本的中心主题，从而揭示每个人的动机和文本目的的线索。ChatGPT 可以相当好地生成主题和语义类别。
主题包括报复和自卫、拒绝民主制度、反对世俗主义和叛教统治者、斗争和殉难、对手的非人化、对大规模移民的批评、反对多元文化主义等等。
ChatGPT 还发现了暴力动机的线索，包括对报复和正义的渴望、反西方情绪、敌人的压迫和侵略、宗教不满以及对种族和文化取代的恐惧。
这些主题也被映射到恐怖主义激进化评估协议-18（TRAP-18）上，这是当局用来评估可能参与恐怖主义活动的个人的工具。
经发现，这些主题与 TRAP-18 威胁行为指标相符。
主要作者 Awni Etaywe 博士是一位专注于恐怖主义的法医语言学专家，他表示，像 ChatGPT 这样的大型语言模型 (LLM) 的优势在于它可以用作不需要特定培训的补充工具。
“虽然法学硕士无法取代人类的判断或文本深入分析，但它们提供了宝贵的调查线索，加速了怀疑并增强了我们对恐怖主义言论背后动机的理解，”Etaywe 博士说。
“尽管欧洲刑警组织对 ChatGPT 等人工智能工具可能被武器化的担忧，但这项研究表明，旨在增强主动取证分析能力的未来工作也可以将机器学习应用于网络恐怖分子文本分类。”
该论文由查尔斯达尔文大学国际关系与政治学高级讲师 Kate Macfarlane 博士和查尔斯达尔文大学信息技术教授 Mamoun Alazab 共同撰写。
Etaywe 博士表示，需要进一步研究来提高 LLM 的准确性和可靠性，包括 ChatGPT 的分析。
埃泰韦博士说：“我们需要确保它能够成为一种实用的辅助手段，在考虑恐怖主义的社会文化背景的同时，帮助识别潜在的威胁。”
“这些大型语言模型迄今为止具有调查价值，但没有证据价值。”