테러 방지 노력을 더욱 효율적으로 만들 수 있는 연구에 따르면 ChatGPT와 같은 기술은 보완적인 역할을 할 수 있으며 테러리스트의 프로필을 파악하고 이들이 극단주의 활동에 가담할 가능성을 식별하는 데 도움이 될 수 있습니다.

"키보드 뒤의 사이버 테러리스트: 심리언어학적 프로파일링 및 위협 평가를 위한 자동화된 텍스트 분석"이라는 연구는출판됨에서언어 침략 및 갈등 저널.

Charles Darwin University(CDU) 연구원들은 9/11 이후 국제 테러리스트들이 작성한 공개 성명 20개를 LIWC(Linguistic Inquiry and Word Count) 소프트웨어에 제공했습니다.

그런 다음 그들은 이 데이터세트 내 테러리스트 4명의 진술 샘플을 ChatGPT에 제공하고 기술에 두 가지 질문을 했습니다. 텍스트의 주요 주제나 주제는 무엇이며, 전달된 메시지 뒤에는 어떤 불만이 있습니까?

ChatGPT는 네 명의 테러리스트가 선택한 텍스트의 중심 주제를 식별할 수 있었으며, 이를 통해 각 개인의 동기와 텍스트의 목적에 대한 단서를 드러냈습니다.ChatGPT는 주제별 및 의미별 카테고리를 합리적으로 잘 생성할 수 있습니다.

주제에는 보복과 자기 방어, 민주주의 체제 거부, 세속주의와 배도한 통치자에 대한 반대, 투쟁과 순교, 반대자들의 비인간화, 대량 이민에 대한 비판, 다문화주의에 대한 반대 등이 포함됩니다.

ChatGPT는 또한 보복과 정의에 대한 열망, 반서구 정서, 적에 의한 억압과 공격성, 종교적 불만, 인종 및 문화적 대체에 대한 두려움 등 폭력 동기에 대한 단서를 식별했습니다.

주제는 테러에 잠재적으로 가담할 수 있는 개인을 평가하기 위해 당국이 사용하는 도구인 테러 급진화 평가 프로토콜-18(TRAP-18)에도 매핑되었습니다.

테마는 위협적인 행동을 나타내는 TRAP-18 지표와 일치하는 것으로 밝혀졌습니다.

수석 저자인 Awni Etaywe 박사는 다음과 같은 분야의 전문가입니다.법의학 언어학테러에 초점을 맞춘 ChatGPT와 같은 대규모 언어 모델(LLM)의 장점은 특정 교육이 필요하지 않은 보완 도구로 사용될 수 있다는 것입니다.

Etaywe 박사는 "LLM이 인간의 판단이나 긴밀한 텍스트 분석을 대체할 수는 없지만 귀중한 조사 단서를 제공하여 의심을 가속화하고 테러리스트 담론의 동기에 대한 이해를 향상시킵니다"라고 말했습니다.

"Europol이 제기한 ChatGPT와 같은 AI 도구의 잠재적인 무기화에 대한 우려에도 불구하고, 이 연구는 사전 포렌식 프로파일링 기능을 향상시키기 위한 향후 작업이 사이버 테러리스트 텍스트 분류에 기계 학습을 적용할 수도 있음을 보여주었습니다."

이 논문은 CDU 국제 관계 및 정치학 수석 강사인 Kate Macfarlane 박사와 CDU 정보 기술 교수인 Mamoun Alazab이 공동 집필했습니다.

Etaywe 박사는 ChatGPT 분석을 포함하여 LLM의 정확성과 신뢰성을 향상시키기 위해서는 추가 연구가 필요하다고 말했습니다.

Etaywe 박사는 "테러리즘의 사회 문화적 맥락을 고려하면서 잠재적인 위협을 식별하는 데 실질적인 도움이 되도록 해야 합니다"라고 말했습니다.

"이러한 대규모 언어 모델은 지금까지 조사 가치가 있지만 증거 가치는 없습니다."

추가 정보:Awni Etaywe 외, 키보드 뒤의 사이버 테러리스트,언어 침략 및 갈등 저널(2024).DOI: 10.1075/jlac.00120.eta