史丹佛大學網路觀察站的一份新報告發現，26 年前為打擊網路兒童剝削而設立的舉報線尚未發揮其潛力，需要技術和其他方面的改進來幫助執法部門追捕虐待者並拯救受害者。

由於新的人工智慧技術威脅到了研究人員所描述的「非常有價值」的服務，因此也必須緊急修復。使問題惡化。

研究人員謝爾比·格羅斯曼(Shelby Grossman) 表示：「幾乎可以肯定，在未來幾年，Cyber​​Tipline 將充斥著高度逼真的人工智慧內容，這將使執法部門更難識別真正需要營救的兒童。

該服務由國會設立，作為保護遭受網路剝削的兒童的主要防線。根據法律規定，科技公司必須向國家失蹤和受虐兒童中心運營的系統報告在其平台上發現的任何兒童性虐待材料。收到報告後，NCMEC 會嘗試尋找發送或接收材料的人，以及受害者（如果可能）。這些報告隨後被發送給執法部門。

雖然 Cyber​​Tipline 報告的數量之大令執法部門不堪重負，但研究人員表示，報告數量只是該系統的幾個核心問題之一。例如，報告稱，Google、亞馬遜和 Meta 等科技公司發送的許多報告缺乏重要細節，例如有關犯罪者身份的足夠資訊。這使得執法部門很難知道應該優先考慮哪些報告。

Alex Stamos 表示：「目前整個系統存在重大問題，在人工智慧正在生成全新 CSAM 的世界中，這些裂縫將成為鴻溝。」他使用了兒童性虐待材料的縮寫。史塔莫斯是史丹佛大學講師和網路安全專家。

該系統在技術上落後，並受到政府和非營利科技平台持續挑戰的困擾：缺乏高技能的工程師，而這些工程師可以在科技業獲得更高的薪水。有時，這些員工甚至會被發送報告的同一家公司挖走。

然後還有法律限制。根據該報告，法院的裁決導致 NCMEC 的工作人員在將某些文件發送給執法部門之前停止對其進行審查（例如，如果這些文件不公開）。許多執法官員認為他們需要搜查令才能存取此類圖像，從而減慢了進程。有時，需要多份搜索令或傳票來識別同一罪犯。

系統也很容易分心。報告顯示，由於一個在多個平台上傳播的表情包，NCMEC 最近達到了單日收到 100 萬份報告的里程碑，有些人認為這很有趣，而另一些人則出於憤怒而分享。

「那天實際上讓他們做出了一些改變，」斯塔莫斯說。透過讓這些影像更容易聚集在一起，「他們花了幾週的時間才處理完積壓的工作」。

Cyber​​Tipline 在 2023 年收到了超過 3,600 萬份報告，幾乎全部來自線上平台。Facebook、Instagram 和Google是發送報告數量最多的公司。總體數量急劇增加。

去年發送的舉報中有近一半是可採取行動的，這意味著 NCMEC 和執法部門可以跟進。

數百份報告涉及同一名罪犯，其中許多報告包含多個圖像或影片。2023 年提交的報告中約 92% 涉及美國以外的國家，這與 2008 年相比發生了很大變化，當時大多數報告涉及美國境內的受害者或犯罪者。

有些是誤報。格羅斯曼告訴記者：“當執法部門收到這些他們認為肯定是成年人的報告時，他們會發瘋。”“但該系統會激勵平台非常保守或報告潛在的邊緣內容，因為如果發現是 CSAM 並且他們知道這一點但沒有報告，他們可能會收到罰款。”

報告中提出的一個相對簡單的解決方案將改進技術平台標記其報告內容的方式，以區分廣泛共享的迷因和值得進一步調查的內容。

史丹佛大學的研究人員採訪了參與 Cyber​​TipLine 的 66 名人員，包括執法人員、NCMEC 工作人員和線上平台員工。

NCMEC 表示，期待「在內部並與主要利害關係人一起探討這些建議」。

「多年來，報告的複雜性和針對兒童的犯罪的嚴重性不斷發展。因此，在整個Cyber​​Tipline 流程中利用新興技術解決方案可以讓更多的兒童得到保護，並使犯罪者承擔責任， ”該公司在一份聲明中表示。 。

該報告的其他發現包括：

– Cyber​​Tipline 報告表單沒有用於提交聊天相關資料（例如性勒索訊息）的專用欄位。美國聯邦調查局 (FBI) 最近警告說性勒索“大幅增加”針對兒童的案件，包括經濟性敲詐勒索，有人威脅稱，除非受害者付款，否則就會發布有問題的圖像。
警探告訴史丹佛大學的研究人員，他們很難說服上級優先考慮這些犯罪行為，即使他們向他們提供了詳細的書面描述以強調其嚴重性。「當他們讀到它時，他們會皺起眉頭，他們真的不想考慮這個，」格羅斯曼說。
– 許多執法官員表示，由於時間和資源限制，他們無法全面調查所有報告。一名偵探每年可能負責 2,000 份報告。
– 在美國以外，尤其是在較貧窮的國家，有關兒童剝削報告的挑戰尤其嚴峻。執法機構可能沒有可靠的網路連線、“像樣的電腦”，甚至沒有用於執行搜查令的汽車汽油。
– 美國參議院 12 月即將通過的立法將要求線上平台向 Cyber​​Tipline 報告兒童性販運和網路誘惑行為，並給予執法部門更多時間來調查兒童性剝削。目前，該舉報專線並未提供舉報涉嫌性販運的直接方法。

雖然一些倡導者提出了更具侵入性的監視法來抓捕濫用者，但 Facebook 和雅虎前首席安全官斯塔莫斯表示，他們應該先嘗試更簡單的解決方案。

「如果你想把更多的戀童癖者關進監獄，就沒有必要侵犯用戶的隱私。他們就坐在那裡，」斯塔莫斯說。“該系統在獲取當前存在的信息並將其轉化為起訴方面效果不佳。”

© 2024 美聯社。版權所有。未經許可，不得出版、廣播、重寫或重新散佈本資料。