一項可以提高反恐工作效率的研究表明，ChatGPT 等技術可以發揮補充作用，幫助分析恐怖分子並確定他們參與極端主義活動的可能性。

這項研究“鍵盤背後的網路恐怖分子：用於心理語言分析和威脅評估的自動文本分析”發表在語言攻擊與衝突雜誌。

查爾斯達爾文大學 (CDU) 的研究人員將 20 份 9/11 事件後國際恐怖分子發表的公開聲明輸入到語言查詢和字數統計 (LIWC) 軟體中。

然後，他們向 ChatGPT 提供了該資料集中四名恐怖分子的陳述樣本，並向該技術提出了兩個問題：文本中的主要主題或主題是什麼，以及所傳達的訊息背後有哪些不滿？

ChatGPT 能夠識別四名恐怖分子選定文本的中心主題，從而揭示每個人的動機和文本目的的線索。ChatGPT 可以很好地產生主題和語義類別。

主題包括報復和自衛、拒絕民主制度、反對世俗主義和變節統治者、鬥爭和殉難、對手非人化、批評大規模移民、反對多元文化主義等等。

ChatGPT 也確定了暴力動機的線索，包括對報復和正義的渴望、反西方情緒、敵人的壓迫和侵略、宗教不滿以及對種族和文化替代的恐懼。

這些主題也映射到恐怖分子激進化評估協議-18 (TRAP-18)，這是當局用來評估可能參與恐怖主義的個人的工具。

這些主題被發現與 TRAP-18 威脅行為指標相符。

主要作者 Awni Etaywe 博士是以下領域的專家法庭語言學專注於恐怖主義，說像 ChatGPT 這樣的大型語言模型 (LLM) 的優點在於它可以用作補充工具，不需要特定的培訓。

「雖然法學碩士無法取代人類判斷或文本分析，但它們提供了寶貴的調查線索，加速懷疑並增強我們對恐怖主義言論背後動機的理解，」埃泰韋博士說。

「儘管歐洲刑警組織提出了對 ChatGPT 等人工智慧工具潛在武器化的擔憂，但這項研究表明，未來旨在增強主動取證分析能力的工作也可以將機器學習應用於網路恐怖分子文本分類。”

這篇論文由基民盟國際關係和政治學高級講師 Kate Macfarlane 博士和基民盟資訊科技教授 Mamoun Alazab 共同撰寫。

Etaywe 博士表示，需要進一步研究來提高法學碩士的準確性和可靠性，包括 ChatGPT 的分析。

「我們需要確保它成為識別潛在威脅的實際幫助，同時考慮恐怖主義的社會文化背景，」埃泰韋博士說。

“到目前為止，這些大型語言模型具有調查價值，但沒有證據價值。”

更多資訊：Awni Etaywe 等人，鍵盤背後的網路恐怖分子，語言攻擊與衝突雜誌（2024）。DOI：10.1075/jlac.00120.eta