一项可以提高反恐工作效率的研究表明，ChatGPT 等技术可以发挥补充作用，帮助分析恐怖分子并确定他们参与极端主义活动的可能性。

这项研究“键盘背后的网络恐怖分子：用于心理语言分析和威胁评估的自动文本分析”发表在语言攻击与冲突杂志。

查尔斯达尔文大学 (CDU) 的研究人员将 20 份 9/11 事件后国际恐怖分子发表的公开声明输入到语言查询和字数统计 (LIWC) 软件中。

然后，他们向 ChatGPT 提供了该数据集中四名恐怖分子的陈述样本，并向该技术提出了两个问题：文本中的主要主题或主题是什么，以及所传达的信息背后有哪些不满？

ChatGPT 能够识别四名恐怖分子选定文本的中心主题，从而揭示每个人的动机和文本目的的线索。ChatGPT 可以很好地生成主题和语义类别。

主题包括报复和自卫、拒绝民主制度、反对世俗主义和变节统治者、斗争和殉难、对手非人化、批评大规模移民、反对多元文化主义等等。

ChatGPT 还确定了暴力动机的线索，包括对报复和正义的渴望、反西方情绪、敌人的压迫和侵略、宗教不满以及对种族和文化替代的恐惧。

这些主题还映射到恐怖分子激进化评估协议-18 (TRAP-18)，这是当局用来评估可能参与恐怖主义的个人的工具。

这些主题被发现与 TRAP-18 威胁行为指标相匹配。

主要作者 Awni Etaywe 博士是以下领域的专家法庭语言学专注于恐怖主义，说像 ChatGPT 这样的大型语言模型 (LLM) 的优势在于它可以用作补充工具，不需要特定的培训。

“虽然法学硕士无法取代人类判断或文本分析，但它们提供了宝贵的调查线索，加速怀疑并增强我们对恐怖主义言论背后动机的理解，”埃泰韦博士说。

“尽管欧洲刑警组织提出了对 ChatGPT 等人工智能工具潜在武器化的担忧，但这项研究表明，未来旨在增强主动取证分析能力的工作也可以将机器学习应用于网络恐怖分子文本分类。”

该论文由基民盟国际关系和政治学高级讲师 Kate Macfarlane 博士和基民盟信息技术教授 Mamoun Alazab 共同撰写。

Etaywe 博士表示，需要进一步研究来提高法学硕士的准确性和可靠性，包括 ChatGPT 的分析。

“我们需要确保它成为识别潜在威胁的实际帮助，同时考虑恐怖主义的社会文化背景，”埃泰韦博士说。

“到目前为止，这些大型语言模型具有调查价值，但没有证据价值。”

更多信息：Awni Etaywe 等人，键盘背后的网络恐怖分子，语言攻击与冲突杂志（2024）。DOI：10.1075/jlac.00120.eta