斯坦福大学互联网观察站的一份新报告发现，26 年前为打击网络儿童剥削而设立的举报线尚未发挥其潜力，需要技术和其他方面的改进来帮助执法部门追捕虐待者并拯救受害者。

由于新的人工智能技术威胁到了研究人员所描述的“非常有价值”的服务，因此也必须紧急修复。使问题恶化。

研究人员谢尔比·格罗斯曼 (Shelby Grossman) 表示：“几乎可以肯定，在未来几年，Cyber​​Tipline 将充斥着高度逼真的人工智能内容，这将使执法部门更难识别真正需要营救的儿童。”该报告的作者。

该服务由国会设立，作为保护遭受网络剥削的儿童的主要防线。根据法律规定，科技公司必须向国家失踪和受虐儿童中心运营的系统报告在其平台上发现的任何儿童性虐待材料。收到报告后，NCMEC 会尝试寻找发送或接收材料的人，以及受害者（如果可能）。这些报告随后被发送给执法部门。

虽然 Cyber​​Tipline 报告的数量之大令执法部门不堪重负，但研究人员表示，报告数量只是该系统的几个核心问题之一。例如，报告称，谷歌、亚马逊和 Meta 等科技公司发送的许多报告缺乏重要细节，例如有关犯罪者身份的足够信息。这使得执法部门很难知道应该优先考虑哪些报告。

Alex Stamos 表示：“目前整个系统存在重大问题，在人工智能正在生成全新 CSAM 的世界中，这些裂缝将成为鸿沟。”他使用了儿童性虐待材料的缩写。斯塔莫斯是斯坦福大学讲师和网络安全专家。

该系统在技术上落后，并受到政府和非营利科技平台持续挑战的困扰：缺乏高技能的工程师，而这些工程师可以在科技行业获得更高的薪水。有时，这些员工甚至被发送报告的同一家公司挖走。

然后还有法律限制。根据该报告，法院的裁决导致 NCMEC 的工作人员在将某些文件发送给执法部门之前停止对其进行审查（例如，如果这些文件不公开）。许多执法官员认为他们需要搜查令才能访问此类图像，从而减慢了进程。有时，需要多份搜查令或传票来识别同一罪犯。

系统也很容易分心。报告显示，由于一个在多个平台上传播的表情包，NCMEC 最近达到了单日收到 100 万份报告的里程碑，一些人认为这很有趣，而另一些人则出于愤怒而分享。

“那天实际上让他们做出了一些改变，”斯塔莫斯说。通过让这些图像更容易聚集在一起，“他们花了几周的时间才处理完积压的工作”。

Cyber​​Tipline 在 2023 年收到了超过 3600 万份报告，几乎全部来自在线平台。Facebook、Instagram 和谷歌是发送报告数量最多的公司。总体数量急剧增加。

去年发送的举报中有近一半是可采取行动的，这意味着 NCMEC 和执法部门可以跟进。

数百份报告涉及同一名罪犯，其中许多报告包含多个图像或视频。2023 年提交的报告中约 92% 涉及美国以外的国家，这与 2008 年相比发生了很大变化，当时大多数报告涉及美国境内的受害者或犯罪者。

有些是误报。格罗斯曼告诉记者：“当执法部门收到这些他们认为肯定是成年人的报告时，他们会发疯。”“但该系统会激励平台非常保守或报告潜在的边缘内容，因为如果发现是 CSAM 并且他们知道这一点但没有报告，他们可能会收到罚款。”

报告中提出的一个相对简单的解决方案将改进技术平台标记其报告内容的方式，以区分广泛共享的模因和值得进一步调查的内容。

斯坦福大学的研究人员采访了参与 Cyber​​TipLine 的 66 名人员，其中包括执法人员、NCMEC 工作人员和在线平台员工。

NCMEC 表示，期待“在内部并与主要利益相关者一起探讨这些建议”。

“多年来，报告的复杂性和针对儿童的犯罪的严重性不断发展。因此，在整个 Cyber​​Tipline 流程中利用新兴技术解决方案可以让更多的儿童得到保护，并使犯罪者承担责任，”该公司在一份声明中表示。。

该报告的其他发现包括：

– Cyber​​Tipline 报告表单没有用于提交聊天相关材料（例如性勒索消息）的专用字段。美国联邦调查局 (FBI) 最近警告说性勒索“大幅增加”针对儿童的案件，包括经济性敲诈勒索，有人威胁称，除非受害者付款，否则就会发布有问题的图像。
警探告诉斯坦福大学的研究人员，他们很难说服上级优先考虑这些犯罪行为，即使他们向他们提供了详细的书面描述以强调其严重性。“当他们读到它时，他们会皱起眉头，他们真的不想考虑这个，”格罗斯曼说。
– 许多执法官员表示，由于时间和资源限制，他们无法全面调查所有报告。一名侦探每年可能负责 2,000 份报告。
– 在美国以外，尤其是在较贫穷的国家，有关儿童剥削报告的挑战尤其严峻。执法机构可能没有可靠的互联网连接、“像样的计算机”，甚至没有用于执行搜查令的汽车汽油。
– 美国参议院 12 月即将通过的立法将要求在线平台向 Cyber​​Tipline 报告儿童性贩运和在线诱惑行为，并给予执法部门更多时间来调查儿童性剥削。目前，该举报热线并未提供举报涉嫌性贩运的直接方法。

虽然一些倡导者提出了更具侵入性的监视法来抓捕滥用者，但 Facebook 和雅虎前首席安全官斯塔莫斯表示，他们应该首先尝试更简单的解决方案。

“如果你想把更多的恋童癖者关进监狱，就没有必要侵犯用户的隐私。他们就坐在那里，”斯塔莫斯说。“该系统在获取当前存在的信息并将其转化为起诉方面效果不佳。”

© 2024 美联社。版权所有。未经许可，不得出版、广播、重写或重新分发本材料。