オンラインでの児童搾取と闘うために26年前に設置された通報制度は、その可能性を十分に発揮しておらず、法執行機関が虐待者を追跡し、被害者を救出するのに役立つ技術的およびその他の改善が必要であることが、スタンフォードインターネット監視団の新たな報告書で明らかになった。

研究者らが「非常に価値のある」サービスと呼んでいるサービスに対する修正も、新しい人工知能技術が脅威をもたらす中、緊急に行われなければならない。問題を悪化させる。

研究者のシェルビー・グロスマン氏は、「ほぼ確実に、今後数年のうちに、Cyber​​Tiplineには非常にリアルなAIコンテンツが溢れかえり、法執行機関が救出すべき本物の子供たちを特定することがさらに困難になるだろう」と述べた。レポートの著者。

このサービスは、オンラインで搾取される子供たちを守る主な手段として議会によって設立されました。法律により、ハイテク企業は自社のプラットフォーム上で児童への性的虐待の内容を見つけた場合、国立行方不明児童搾取センターが運営するシステムに報告しなければならない。NCMEC は報告を受け取った後、その資料を送信または受信した人物、および可能であれば被害者の特定を試みます。これらの報告はその後、法執行機関に送信されます。

Cyber​​Tipline の膨大な量のレポートが法執行機関を圧倒している一方で、研究者らは、その量はシステムの中核となるいくつかの問題の 1 つにすぎないと述べています。たとえば、Google、Amazon、Metaなどのテクノロジー企業から送られた報告書の多くには、犯罪者の身元に関する十分な情報など、重要な詳細が欠如していると報告書は述べている。このため、法執行機関がどの報告を優先すべきかを判断することが困難になります。

「現在、システム全体に重大な問題があり、AIがまったく新しいCSAMを生成する世界では、それらの亀裂が亀裂となるだろう」とアレックス・ステイモス氏は児童性的虐待資料のイニシャルを使って語った。Stamos はスタンフォード大学の講師であり、サイバーセキュリティの専門家です。

このシステムは技術的に遅れており、政府や非営利のテクノロジープラットフォームの間で常に課題となっている。それは、テクノロジー業界ではるかに高い給与を支払える高度なスキルを持ったエンジニアの不足だ。場合によっては、これらの従業員が報告書を提出したのと同じ企業によって引き抜かれることさえあります。

次に、法的な制約があります。報告書によると、裁判所の決定により、NCMECのスタッフは一部のファイルを法執行機関に送る前に（例えば、公開されていない場合など）精査することを中止したという。多くの法執行当局者は、こうした画像にアクセスするには捜査令状が必要だと考えており、捜査が遅れている。場合によっては、同じ犯罪者を特定するために複数の令状や召喚状が必要になることがあります。

また、システムの注意が散漫になりやすいです。報告書によると、NCMECは最近、複数のプラットフォームで拡散したミームにより、1日で報告件数が100万件というマイルストーンを達成したことが明らかになった。ミームを面白いと思った人もいれば、憤慨してシェアした人もいる。

「あの日、実際に彼らはいくつかの変化を起こすことになった」とステイモス氏は語った。これらのイメージを簡単にクラスタリングできるようにすることで、「そのバックログを処理するのに数週間かかりました」。

Cyber​​Tipline は 2023 年に 3,600 万件以上の報告を受け取りましたが、そのほぼすべてがオンライン プラットフォームからのものでした。最も多くの報告を送信した企業は、Facebook、Instagram、Google でした。全体の数は劇的に増加しています。

昨年送信された情報のほぼ半数は実用的なものであり、NCMEC と法執行機関が追跡調査を行う可能性があることを意味します。

何百もの報告書が同じ犯罪者に関するもので、その多くには複数の画像や動画が含まれていました。2023年に提出された報告書の約92％は米国外の国に関するもので、大半が米国内の被害者や犯罪者に関するものであった2008年からは大きく変化している。

誤報もある。グロスマン氏は記者団に対し、「法執行機関が明らかに成人であると認識しているような報告を受けると、法執行機関は気が狂ってしまう」と語った。「しかしこのシステムは、プラットフォームが非常に保守的になるか、あるいは境界線に近いコンテンツを報告するよう奨励することになる。なぜなら、それがCSAMであることが判明し、それを知りながら報告しなかった場合、罰金を科せられる可能性があるからだ。」

報告書で提案されている比較的簡単な修正案の 1 つは、広く共有されているミームと詳細な調査に値するものとを区別するために、テクノロジー プラットフォームが報告対象にラベルを付ける方法を改善するものです。

スタンフォード大学の研究者らは、法執行機関から NCMEC スタッフ、オンライン プラットフォームの従業員に至るまで、Cyber​​TipLine に関係する 66 人にインタビューしました。

NCMECは、「社内および主要な関係者とともに推奨事項を検討する」ことを楽しみにしていると述べた。

「長年にわたり、報告書の複雑さと子どもに対する犯罪の重大さは進化し続けている。したがって、Cyber​​Tiplineのプロセス全体に新たな技術ソリューションを活用することで、より多くの子どもたちが保護され、犯罪者の責任を問われることにつながる」と同団体は声明で述べた。。

レポートのその他の調査結果には次のようなものがあります。

Cyber​​Tipline 報告フォームには、セクストーション メッセージなどのチャット関連の内容を送信するための専用フィールドがありません。FBI は最近、次のことを警告しました。セクストーションが「大幅に増加」被害者がお金を支払わなければ危険な画像を公開すると脅迫する金銭的セクストーションなど、子供を対象とした事件が含まれます。
警察の刑事らはスタンフォード大学の研究者に対し、上層部が犯罪の重大性を強調するために詳細な書面による説明を提示した後でも、上層部にこれらの犯罪を優先するよう説得するのに苦労していると語った。「彼らはそれを読むとひるむし、実際にはこのことについて考えたくありません」とグロスマン氏は言う。
多くの法執行当局者は、時間とリソースの制約により、すべての報告を完全に調査することはできなかったと述べた。一人の刑事が年間 2,000 件の報告書を担当することもあります。
「米国外、特に貧しい国では、児童搾取に関する報告を巡る課題が特に深刻です。」法執行機関には、捜索令状を執行するための信頼できるインターネット接続、「まともなコンピューター」、さらには車のガソリンすらない可能性があります。
12月に米国上院で可決された未決の法案は、オンラインプラットフォームに対して児童の性的人身売買とオンラインでの誘惑をCyber​​Tiplineに報告することを義務付け、法執行機関に児童の性的搾取を調査するための時間を与えることになる。現在、情報掲示板には性的人身売買の疑いを報告する簡単な方法は提供されていません。

一部の支持者は、不正行為者を捕まえるために、より侵入的な監視法を提案しているが、FacebookとYahooの元最高セキュリティ責任者であるステイモス氏は、まずはより簡単な修正を試みるべきだと述べた。

「より多くの小児性愛者を刑務所に入れたいなら、ユーザーのプライバシーを侵害する必要はない。彼らはすぐそこに座っているのだ」とステイモス氏は語った。「このシステムは、現在存在する情報を取得して訴追するという点であまりうまく機能していない。」

© 2024 AP通信。無断転載を禁じます。この素材を許可なく出版、放送、書き換え、または再配布することはできません。