Meta의 감독 위원회는 화요일에 두 가지 사례를 통해 소셜 미디어 거대 기업의 딥페이크 포르노 정책을 면밀히 조사하고 있다고 밝혔습니다.

메타(Meta)라고 불리는 것에 의한 움직임대법원" 콘텐츠 검토에 대한 분쟁은 이전에 Twitter였던 X에서 메가스타 Taylor Swift의 음란한 AI 생성 이미지가 널리 공유된 지 불과 몇 달 만에 발생했습니다.

메타 이사회는 "메타의 정책과 시행 관행이 노골적인 AI 생성 이미지를 해결하는 데 효과적인지 평가하기 위해 인스타그램과 페이스북에 공유된 이미지와 관련된 두 가지 사례를 선택했다"고 밝혔습니다.

이사회는 다음 사항에 관해 권고사항을 제시할 수 있습니다.소셜 미디어거인의 딥페이크 포르노 정책은 실제로 변경하는 것은 기술 회사의 몫입니다.

Meta Oversight Board가 채택한 첫 번째 사례는 Instagram에 게시된 AI 생성 누드 여성 이미지와 관련이 있습니다.

사진에 등장한 여성은 인도의 공인과 유사해 해당 국가 이용자들의 불만을 불러일으켰다.

메타는 이미지를 남겨두었다가 나중에 실수로 그렇게 했다고 말했습니다.

두 번째 사례는 AI 창작물을 전담하는 페이스북 그룹에 게시된 사진과 관련된다.

해당 이미지에는 '미국의 공인'처럼 보이는 누드 여성과 그녀의 가슴 한쪽을 더듬는 남성이 묘사됐다고 위원회는 발표했다.

위원회는 문제의 합성 이미지 캡션에서 확인된 여성의 이름을 밝히지 않았습니다.

메타는 괴롭힘 정책을 위반했다는 이유로 해당 이미지를 삭제했고, 해당 콘텐츠를 게시한 사용자는 해당 결정에 항소했다고 한다.

사람들은 특히 딥페이크 포르노로 인한 피해의 심각성과 유명 인사인 여성에게 미치는 피해에 대한 의견을 제출하도록 요청 받았습니다.

유명인의 딥페이크 포르노 이미지는 새로운 것이 아니지만 활동가와 규제 당국은 생성 AI를 사용하는 사용하기 쉬운 도구가 통제할 수 없는 독성 또는 유해 콘텐츠의 홍수를 일으킬 것이라고 우려하고 있습니다.

최근 콘서트 투어를 통해 그녀를 미국의 정상에 올려놓은 세계 최고의 스트리밍 아티스트 중 한 명인 Swift를 표적으로 삼은 것은 이러한 현상에 주목을 받았고, 그녀의 수많은 팬들은 이러한 전개에 분노했습니다.

카린 장 피에르 백악관 대변인은 당시 사진에 대해 질문을 받자 “놀라운 일”이라고 말했다.

Jean-Pierre는 "슬프게도 (기술 플랫폼에 의한) 집행 부족이 여성에게 불균형적으로 영향을 미치고 온라인 괴롭힘의 압도적인 표적이 되는 소녀들에게도 영향을 미친다는 것을 알고 있습니다."라고 덧붙였습니다.

© 2024 AFP