목요일 AFP가 공개한 공개서한 초안에 따르면, 20개 이상의 국제 시민사회단체가 소셜미디어 플랫폼을 괴롭히는 '성차별적이고 여성혐오적인' 허위 정보에 맞서 싸우기 위해 주요 기술 기업에 AI 정책을 강화할 것을 촉구할 예정이라고 합니다.

에게 보낸 편지최고 경영자Meta, X, YouTube, TikTok, Snapchat, Reddit 등 6대 거대 기업 중 하나는 합의되지 않은 딥페이크 포르노뿐 아니라 저렴하고 널리 사용 가능한 인공 지능 도구를 통해 가능해진 괴롭힘과 사기의 온라인 붐을 따릅니다.

UltraViolet, GLAAD, 전국여성기구(National Organization for Women), MyOwn Image 등 27개 디지털 및 인권 단체가 서명한 서한에는 "이러한 피해가 동등하게 느껴지지 않는다는 것이 분명합니다."라고 적혀 있습니다.

"특히 여성분들은트랜스젠더그리고 바이너리가 아닌 사람들은 소셜 미디어에서 AI 기반 콘텐츠의 부정적인 영향을 경험할 위험에 처해 있습니다."

단체들이 금요일에 공개할 것이라고 밝힌 이 서한에는 AI 정책을 강화하기 위한 12가지 권고사항이 담겨 있습니다.

여기에는 합의되지 않은 노골적인 자료 게시에 대한 결과를 명확하게 정의하는 것(상습 위반자의 정지를 포함해야 함), AI가 생성한 영상을 감지하는 제3자 도구 구현 및 그러한 콘텐츠에 대한 명확한 라벨 지정이 포함됩니다.

또한 그룹은 사용자가 유해한 콘텐츠를 신고하고 신고할 수 있는 일관된 절차와 플랫폼이 AI 정책에 대한 포괄적인 연례 감사를 수행할 것을 요구했습니다.

여성혐오적이고 성차별적인 공격

이 편지는 11월 5일 미국 최초의 AI 선거로 널리 알려진 선거가 있기 불과 한 달 전에 나왔습니다. 백악관을 향한 치열한 경쟁은 허위 정보의 소방 호스를 목격했습니다.

젠더 관련 허위 정보의 특별한 표적은 민주당 후보인 카말라 해리스(Kamala Harris)입니다. 여기에는 미국 역사상 최초의 흑인, 남아시아인 및 여성 부통령을 공격하는 수많은 여성 혐오적이고 성차별적인 이야기가 포함되어 있습니다.

UltraViolet의 캠페인 디렉터인 Jenna Sherman은 "이러한 피해는 온라인에서 우리를 침묵시키고, 우리 자신의 이미지를 통제할 권리를 침해하며, 선거를 왜곡합니다"라고 말했습니다.

"그러나 더 나쁜 것은 그들이 정규화하고 심지어 알고리즘적으로 코드화한다는 것입니다.성적 착취성별, 성적 취향, 동의에 대한 해로운 고정관념을 강화합니다."

합의되지 않은 딥페이크의 확산은 전 세계적으로 기술을 규제하려는 노력을 앞지르고 있다고 전문가들은 말합니다. 여러 사진 앱이 디지털 방식으로 여성의 옷을 벗기고 이미지를 조작하여 "성착취" 라켓을 조장하고 있습니다.

가수 테일러 스위프트(Taylor Swift), 배우 엠마 왓슨(Emma Watson)과 같은 유명인들이 딥페이크 포르노의 피해자가 되었지만 전문가들은 대중의 눈에 띄지 않는 여성들도 똑같이 취약하다고 말합니다.

서한에 서명한 조직 중 하나인 전략대화연구소(Institute for Strategic Dialogue)의 미국 디지털 정책 수석 관리자인 엘렌 제이콥스는 "AI 기술은 온라인에서 성별에 따른 괴롭힘과 학대의 생성과 확산을 더욱 촉진했다"고 말했습니다.

"우리는 여성, 소녀, LGBTQ+ 사람들에 대한 높아진 위험을 구체적으로 다루는 효과적인 정책이 필요합니다."

플랫폼은 출시에 앞서 논평 요청에 즉시 응답하지 않았습니다.편지.

소셜 미디어 안전 담당자인 Leanna Garfield는 "세계 최대 플랫폼은 AI를 활용한 증오, 괴롭힘, 허위 정보 캠페인(증오 기반 이미지를 대규모로 유포할 수 있는 딥페이크 및 봇 포함)의 증가를 처리할 준비가 되어 있지 않다는 것을 보여주었습니다."라고 말했습니다.GLAAD의 프로그램 관리자.

플랫폼은 "모든 사람이 온라인에서 안전함을 느낄 수 있도록 지금 구체적인 조치를 취해야 합니다."

© 2024 AFP