메타는 목요일 자사 인스타그램 플랫폼의 '성착취' 사기로부터 10대 사용자를 보호하기 위한 새로운 도구를 개발 중이라고 밝혔습니다. 이는 미국 정치인들이 젊은이들의 정신 건강을 해친다고 비난한 것입니다.

갱단은 사람들에게 자신의 노골적인 이미지를 제공하도록 설득한 다음 돈을 받지 않으면 공개하겠다고 위협하는 방식으로 성착취 사기를 펼칩니다.

Meta는 앱의 메시징 시스템에서 미성년자에게 전송된 과도한 노출이 포함된 이미지를 찾아서 흐리게 만드는 AI 기반의 "누드 방지" 도구를 테스트하고 있다고 말했습니다.

Meta France의 아동 보호 책임자인 Capucine Tuffier는 "이렇게 하면 수신자는 원치 않는 친밀한 콘텐츠에 노출되지 않고 이미지를 볼지 여부를 선택할 수 있습니다"라고 AFP에 말했습니다.

미국 회사는 그러한 메시지를 보내거나 받는 모든 사람에게 조언과 안전 팁도 제공할 것이라고 말했습니다.

약 3,000젊은이현지 당국에 따르면 2022년 미국에서 착취 사기 피해를 입었다고 합니다.

이와 별도로, 미국의 40개 이상의 주에서는 지난 10월 Meta가 "아이들의 고통으로부터 이익을 얻었다"고 비난하는 소송을 제기하기 시작했습니다.

법적 서류에 따르면 Meta는 건강에 해를 끼치더라도 플랫폼에서 보내는 시간을 최대화하도록 설계된 비즈니스 모델을 만들어 젊은 사용자를 착취했습니다.

'온디바이스 머신러닝'

Meta는 지난 1월 콘텐츠 제한을 강화하고 부모 감독 도구를 강화하는 등 18세 미만 청소년을 보호하기 위한 조치를 발표할 것이라고 발표했습니다.

회사는 목요일에 최신 도구가 "원치 않거나 잠재적으로 유해한 접촉으로부터 젊은이들을 보호하는 데 도움이 되는 우리의 오랜 노력"을 기반으로 구축되었다고 말했습니다.

회사는 "성착취와 은밀한 이미지 남용으로부터 청소년을 보호하고 잠재적인 사기꾼과 범죄자가 청소년을 찾아 교류하는 것을 더 어렵게 만들기 위해 새로운 기능을 테스트하고 있다"고 밝혔습니다.

'나체 보호' 도구는 일종의 인공지능인 '온디바이스 머신러닝'을 이용해 이미지를 분석했다고 덧붙였다.

사용자의 데이터 프라이버시를 침해했다는 비난도 끊임없이 받고 있는 회사는 사용자가 신고하지 않는 한 해당 이미지에 접근할 수 없다고 강조했습니다.

Meta는 또한 AI 도구를 사용하여 불쾌한 자료를 보내는 계정을 식별하고 플랫폼에서 젊은 사용자와 상호 작용하는 능력을 심각하게 제한할 것이라고 말했습니다.

내부 고발자이자 전직 Facebook 엔지니어인 Frances Haugen은 2021년에 Meta(당시 Facebook으로 알려짐)가 내부적으로 수행한 연구를 공개했습니다. 이는 Meta가 오랫동안 플랫폼이 젊은이들의 정신 건강에 미치는 위험을 알고 있었음을 보여줍니다.

© 2024 AFP