ある研究によると、ChatGPTなどのテクノロジーは補完的な役割を果たし、テロリストのプロフィールを特定し、彼らが過激派活動に関与している可能性を特定するのに役立ち、テロ対策の取り組みをより効率化できる可能性があるという。

この研究は、「キーボードの背後にあるサイバーテロリスト: 心理言語プロファイリングと脅威評価のための自動テキスト分析」と題されています。出版されたで言語侵略と紛争のジャーナル。

チャールズ ダーウィン大学 (CDU) の研究者は、9/11 後に国際テロリストが行った 20 件の公式声明をソフトウェア言語調査および語数カウント (LIWC) に入力しました。

次に彼らは、このデータセット内の 4 人のテロリストの声明のサンプルを ChatGPT に提供し、このテクノロジーに 2 つの質問をしました。テキスト内の主なテーマまたはトピックは何ですか、もう 1 つは通信されたメッセージの背後にある不満ですか?

ChatGPT は、4 人のテロリストによる選択されたテキストの中心的なテーマを特定することができ、各個人の動機とテキストの目的に関する手がかりを明らかにしました。ChatGPT はテーマ別および意味論的なカテゴリをかなりうまく生成できました。

テーマには、報復と自衛、民主主義制度の拒否、世俗主義と背教的支配者への反対、闘争と殉教、敵対者の非人間化、大量移民への批判、多文化主義への反対などが含まれます。

ChatGPTはまた、報復と正義への欲求、反西洋感情、敵による抑圧と攻撃、宗教的不満、人種的および文化的置き換えへの恐怖など、暴力の動機の手がかりを特定した。

これらのテーマは、テロに関与する可能性のある個人を評価するために当局が使用するツールであるテロリスト急進化評価プロトコル-18 (TRAP-18) にもマッピングされました。

これらのテーマは、TRAP-18 の脅迫行為の指標と一致することが判明しました。

筆頭著者のアウニ・エタイウェ博士は、法医学言語学テロに焦点を当てている同氏は、ChatGPT のような大規模言語モデル (LLM) の利点は、特別なトレーニングを必要としない補完ツールとして使用できることであると述べています。

「LLMは人間の判断やクローズテキスト分析に代わることはできませんが、貴重な捜査の手がかりを提供し、疑惑を加速させ、テロリストの言説の背後にある動機についての理解を深めます」とエタイウェ博士は述べた。

「ユーロポールによって提起されたChatGPTのようなAIツールの兵器化の可能性についての懸念にもかかわらず、この研究は、プロアクティブなフォレンジックプロファイリング機能の強化を目的とした将来の取り組みにより、機械学習をサイバーテロリストのテキスト分類にも適用できることを示しました。」

この論文は、CDU 国際関係・政治学上級講師の Kate Macfarlane 博士と CDU 情報技術教授 Mamoun Alazab の共著です。

Etaywe博士は、ChatGPTの分析を含め、LLMの精度と信頼性を向上させるにはさらなる研究が必要であると述べた。

「テロリズムの社会文化的背景を考慮しながら、潜在的な脅威を特定する上で実用的な支援となるようにする必要がある」とエタイウェ博士は述べた。

「これまでのところ、これらの大規模な言語モデルには調査的価値はありますが、証拠としての価値はありません。」

詳細情報:Awni Etaywe 他、キーボードの背後にいるサイバーテロリスト、言語侵略と紛争のジャーナル（2024年）。DOI: 10.1075/jlac.00120.eta