온라인 아동 착취에 맞서기 위해 26년 전에 설립된 제보 전화는 그 잠재력을 발휘하지 못했으며, 법 집행 기관이 학대자를 추적하고 피해자를 구출할 수 있도록 기술 및 기타 개선이 필요하다고 Stanford Internet Observatory의 새로운 보고서가 밝혔습니다.

연구원들이 "엄청나게 가치 있는" 서비스라고 설명하는 서비스에 대한 수정은 새로운 인공 지능 기술이 위협을 가하는 상황에서 시급히 이루어져야 합니다.문제를 악화시키다.

Shelby Grossman 연구원은 "거의 확실히 앞으로 몇 년 안에 CyberTipline은 매우 사실적인 AI 콘텐츠로 넘쳐날 것입니다. 이로 인해 법 집행 기관이 구조되어야 할 실제 어린이를 식별하는 것이 더욱 어려워질 것"이라고 말했습니다.보고서의 작성자.

이 서비스는 온라인에서 착취당하는 아동을 보호하기 위한 주요 방어선으로 의회에 의해 확립되었습니다.법에 따라 기술 회사는 플랫폼에서 발견한 아동 성적 학대 자료를 국립실종착취아동센터(National Center for Missing and Exploited Children)에서 운영하는 시스템에 신고해야 합니다.NCMEC는 신고를 받은 뒤 자료를 보내거나 받은 사람과 가능하다면 피해자를 찾아내려고 한다.이 보고서는 법 집행 기관에 전달됩니다.

CyberTipline 보고서의 엄청난 양이 법 집행 기관을 압도하고 있지만 연구원들은 그 양이 시스템의 핵심 문제 중 하나일 뿐이라고 말합니다.예를 들어 구글, 아마존, 메타 등 기술 기업이 보낸 보고서에는 범죄자의 신원에 대한 충분한 정보 등 중요한 세부 정보가 부족한 경우가 많다고 보고서는 밝혔습니다.이로 인해 법 집행 기관이 어떤 보고서에 우선순위를 두어야 할지 파악하기가 어렵습니다.

Alex Stamos는 아동 성적 학대 자료의 이니셜을 사용하여 "현재 전체 시스템에 심각한 문제가 있으며 AI가 완전히 새로운 CSAM을 생성하는 세계에서 이러한 균열이 틈이 될 것"이라고 말했습니다.Stamos는 스탠포드 강사이자 사이버 보안 전문가입니다.

이 시스템은 기술적으로 뒤쳐져 있고 정부와 비영리 기술 플랫폼 간의 끊임없는 도전으로 인해 어려움을 겪고 있습니다. 기술 산업에서 훨씬 더 높은 급여를 받을 수 있는 고도로 숙련된 엔지니어가 부족하기 때문입니다.때로는 해당 직원이 보고서를 보낸 동일한 회사에 의해 납치되기도 합니다.

그 다음에는 법적 제약이 있습니다.보고서에 따르면 법원 결정에 따라 NCMEC 직원은 일부 파일(예: 공개적으로 사용할 수 없는 파일)을 법 집행 기관에 보내기 전에 조사하는 것을 중단했습니다.많은 법 집행관들은 그러한 이미지에 접근하려면 수색 영장이 필요하다고 생각하므로 절차가 지연됩니다.때로는 동일한 범죄자를 식별하기 위해 여러 개의 영장이나 소환장이 필요합니다.

시스템이 산만해지기 쉽습니다.보고서에 따르면 NCMEC는 최근 여러 플랫폼에 퍼지는 밈으로 인해 하루 만에 100만 건의 신고를 기록했습니다. 어떤 사람들은 재미있다고 생각했고 어떤 사람들은 분노하여 공유했습니다.

Stamos는 "그날 실제로 그들은 몇 가지 변화를 만들었습니다"라고 말했습니다.해당 이미지를 더 쉽게 클러스터링함으로써 "백로그를 처리하는 데 몇 주가 걸렸습니다".

CyberTipline은 2023년에 3,600만 건 이상의 신고를 접수했는데, 거의 모두 온라인 플랫폼에서 이루어졌습니다.Facebook, Instagram 및 Google은 가장 많은 수의 보고서를 보낸 회사였습니다.전체 숫자가 급격히 증가했습니다.

작년에 전송된 제보 중 거의 절반이 실행 가능한 것이었습니다. 이는 NCMEC와 법 집행 기관이 후속 조치를 취할 수 있음을 의미합니다.

동일한 범죄자에 관한 수백 건의 신고가 있었고, 그 중 상당수에는 여러 이미지나 동영상이 포함되어 있었습니다.2023년에 제출된 신고의 약 92%는 미국 이외의 국가와 관련되어 있으며, 이는 대다수가 미국 내 피해자 또는 범죄자와 관련된 2008년에 비해 큰 변화입니다.

일부는 잘못된 경보입니다.Grossman은 기자들에게 "확실히 성인이라고 생각되는 이러한 보고서를 받으면 법 집행 기관을 미치게 만듭니다"라고 말했습니다."그러나 시스템은 플랫폼이 매우 보수적이거나 잠재적으로 경계선에 있는 콘텐츠를 신고하도록 장려합니다. 왜냐하면 그것이 CSAM으로 밝혀지고 이를 알고도 신고하지 않으면 벌금을 받을 수 있기 때문입니다."

보고서에서 제안된 상대적으로 쉬운 수정 사항 중 하나는 기술 플랫폼이 널리 공유되는 밈과 면밀한 조사가 필요한 항목을 구별하기 위해 보고하는 내용에 라벨을 지정하는 방식을 개선하는 것입니다.

스탠포드 연구진은 법 집행 기관부터 NCMEC 직원, 온라인 플랫폼 직원에 이르기까지 CyberTipLine과 관련된 66명의 사람들을 인터뷰했습니다.

NCMEC는 "내부적으로 그리고 주요 이해관계자들과 함께 권장사항을 검토"하기를 기대한다고 말했습니다.

"수년에 걸쳐 보고서의 복잡성과 아동 범죄의 심각성은 계속 진화하고 있습니다. 따라서 전체 CyberTipline 프로세스에 최신 기술 솔루션을 활용하면 더 많은 아동을 보호하고 범죄자가 책임을지게 됩니다."라고 성명에서 밝혔습니다..

보고서의 다른 결과는 다음과 같습니다.

âCyberTipline 신고 양식에는 성착취 메시지 등 채팅 관련 자료를 제출하기 위한 전용 필드가 없습니다.FBI는 최근 경고했다.섹스토션 '대단한 증가'아동을 대상으로 한 사건(금전적 성착취 포함), 피해자가 비용을 지불하지 않으면 누군가가 타협적인 이미지를 공개하겠다고 위협하는 경우.
경찰 수사관들은 스탠포드 연구원들에게 범죄의 심각성을 강조하기 위해 자세한 서면 설명을 제시한 후에도 상급자들이 이러한 범죄의 우선순위를 정하도록 설득하는 데 어려움을 겪고 있다고 말했습니다.Grossman은 "그들은 그것을 읽을 때 움츠리고 이에 대해 정말로 생각하고 싶어하지 않습니다"라고 말했습니다.
많은 법 집행관은 시간과 자원의 제약으로 인해 모든 신고를 완전히 조사할 수 없었다고 말했습니다.한 명의 형사가 연간 2,000건의 보고서를 담당할 수 있습니다.
... 미국 이외의 지역, 특히 가난한 국가에서는 아동 착취 신고와 관련된 문제가 특히 심각합니다.법 집행 기관은 안정적인 인터넷 연결, "괜찮은 컴퓨터", 심지어 수색 영장을 집행할 차량용 연료조차 보유하지 않을 수 있습니다.
지난 12월 미국 상원에서 통과된 계류 중인 법안은 온라인 플랫폼이 아동 성매매 및 온라인 유혹을 CyberTipline에 신고하고 법 집행 기관이 아동 성 착취를 조사할 수 있는 시간을 더 많이 주어야 한다는 내용입니다.현재 제보라인에서는 성매매 의심 사례를 신고할 수 있는 간단한 방법을 제공하지 않습니다.

일부 옹호자들은 학대자를 잡기 위해 보다 침해적인 감시법을 제안했지만 페이스북과 야후의 전 최고 보안 책임자인 스타모스는 먼저 더 간단한 수정을 시도해야 한다고 말했습니다.

Stamos는 "더 많은 소아성애자를 감옥에 가두고 싶다면 사용자의 개인정보를 침해할 필요가 없습니다. 그들은 바로 거기 앉아 있습니다"라고 말했습니다."현재 존재하는 정보를 가져와 기소하는 데 시스템이 제대로 작동하지 않습니다."

© 2024 AP 통신.모든 권리 보유.이 자료는 허가 없이 출판, 방송, 재작성 또는 재배포될 수 없습니다.