Taylor Swift의 음란물 딥페이크 이미지가 온라인에 유포되면서 가수가 가장 유명한 피해자가 되었습니다.재앙기술 플랫폼과 학대 방지 단체가 문제를 해결하는 데 어려움을 겪었습니다.

Swift의 성적으로 노골적이고 모욕적인 가짜 이미지가 이번 주 소셜 미디어 플랫폼 X에서 널리 퍼지기 시작했습니다.

그녀의 열렬한 "Swifties" 팬층은 빠르게 동원되어 이전에 Twitter로 알려진 플랫폼과 #ProtectTaylorSwift 해시태그를 사용하여 소셜 미디어 사이트를 팝스타의 보다 긍정적인 이미지로 가득 채웠으며 반격을 시작했습니다.일부는 딥페이크를 공유하는 계정을 신고하고 있다고 말했습니다.

미국영화배우길드(Screen Actors Guild)는 금요일에 성명을 발표하고 스위프트의 이미지가 "화가 나고 해로우며 매우 우려스럽다"며 "가짜 이미지, 특히 음란한 성격의 이미지가 개발 및 유포되고 있다"고 덧붙였다.누군가의 동의는 불법으로 만들어져야 한다."

딥페이크 탐지 그룹인 Reality Defender는 특히 X에서 Swift를 묘사하는 합의되지 않은 포르노 자료의 홍수를 추적했다고 밝혔습니다. 일부 이미지는 Meta가 소유한 Facebook 및 기타 소셜 미디어 플랫폼에도 전달되었습니다.

Reality Defender의 성장 책임자인 Mason Allen은 "안타깝게도 일부 사용자가 삭제될 무렵에는 수백만 명의 사용자에게 확산되었습니다."라고 말했습니다.

연구원들은 적어도 수십 개의 독특한 AI 생성 이미지를 발견했습니다.가장 널리 공유된 것은 축구와 관련된 것이었고, 그녀를 대상화하는 그림이나 피묻은 스위프트를 보여주었고 어떤 경우에는 그녀의 딥페이크 페르소나에 폭력적인 피해를 입혔습니다.

이는 이번 달 초 이후에 발생합니다. AI가 만든 영상 가짜 Le Creuset 조리기구 경품을 보증하는 Swift의 초상도 온라인에서 화제가 되었습니다.그 사기의 배후가 누구인지는 불분명했고, 르 크루제는 속았을 가능성이 있는 사람들에게 사과했습니다.

연구원들은 노골적인 딥페이크의 수를 밝혔습니다.성장했다지난 몇 년 동안 이러한 이미지를 생성하는 데 사용되는 기술이 더욱 접근하기 쉽고 사용하기 쉬워졌습니다.2019년 AI 회사 DeepTrace Labs가 발표한 보고서에 따르면 이러한 이미지는 압도적으로 여성을 대상으로 무기화되었습니다.피해자 대부분은 할리우드 배우와 한국 K팝 가수들이었다고 한다.

뉴욕 대학에서 Swift에 대한 강의를 하고 있는 Rolling Stone의 수석 작가인 Brittany Spanos는 Swift의 팬들이 아티스트를 지지하기 위해 빠르게 동원되고 있으며, 특히 자신의 팬덤을 매우 심각하게 받아들이고 잘못된 상황에 처한 사람들을 지지한다고 말합니다.

"만약 그녀가 실제로 법정에 간다면 이것은 엄청난 일이 될 수 있습니다"라고 그녀는 말했습니다.

Swift의 가짜 이미지에 대한 논평을 요청받은 X는 Associated Press에 회사가 자사 플랫폼에서 합의되지 않은 누드 이미지를 공유하는 것을 엄격히 금지한다는 안전 계정의 게시물을 안내했습니다.회사는 2022년 Elon Musk가 플랫폼을 인수한 이후 콘텐츠 관리 팀을 대폭 축소했습니다.

회사는 금요일 이른 아침 X 포스트에 "우리 팀은 식별된 모든 이미지를 적극적으로 제거하고 이를 게시한 계정에 대해 적절한 조치를 취하고 있습니다"라고 썼습니다."우리는 추가 위반 사항이 즉시 해결되고 콘텐츠가 삭제되도록 상황을 면밀히 모니터링하고 있습니다."

한편 메타 측은 성명을 통해 “다양한 인터넷 서비스에 등장하는 콘텐츠”를 강력히 규탄하고 이를 삭제하기 위해 노력했다고 밝혔다.

회사 측은 "이러한 위반 콘텐츠에 대해 플랫폼을 계속 모니터링하고 있으며 필요에 따라 적절한 조치를 취할 것"이라고 밝혔습니다.

Swift 대변인은 금요일 논평 요청에 즉시 응답하지 않았습니다.

Allen은 연구원들이 이미지가 서면 프롬프트에서 새롭고 사실적인 이미지를 생성할 수 있는 일종의 생성 인공 지능 모델인 확산 모델에 의해 생성되었다고 90% 확신한다고 말했습니다.가장 널리 알려진 것은 Stable Diffusion, Midjourney 및 OpenAI의 DALL-E입니다.Allen의 그룹은 출처를 확인하려고 시도하지 않았습니다.

부분적으로 DALL-E를 기반으로 한 이미지 생성기를 제공하는 Microsoft는 금요일 자사 도구가 오용되었는지 조사하는 중이라고 밝혔습니다.다른 상용 AI 서비스와 마찬가지로 "성인 또는 합의되지 않은 친밀한 콘텐츠를 허용하지 않으며, 우리의 정책에 어긋나는 콘텐츠를 반복적으로 생산하려는 시도는 서비스에 대한 액세스 권한을 상실할 수 있다"고 밝혔습니다.

사티아 나델라 마이크로소프트 최고경영자(CEO)는 금요일 'NBC 나이틀리 뉴스'에서 스위프트 딥페이크에 관해 질문을 받자 AI 보호 장치를 설정하는 데 아직 해야 할 일이 많이 남아 있으며 "이 문제를 빨리 해결하는 것이 우리의 의무"라고 말했다.

나델라는 "확실히 이것은 놀랍고 끔찍한 일이다. 따라서 우리는 행동을 취해야 한다"고 말했다.

Midjourney, OpenAI 및 Stable Diffusion 제조사 Stability AI는 논평 요청에 즉시 응답하지 않았습니다.

더 많은 제한을 두거나 딥페이크 포르노를 범죄화하는 법안을 발의한 연방 의원들은 이 사건이 미국이 더 나은 보호 조치를 시행해야 하는 이유를 보여준다고 말했습니다.

"수년 동안 여성들은 합의되지 않은 딥페이크의 피해자였습니다. 따라서 Taylor Swift에게 일어난 일은 대부분의 사람들이 생각하는 것보다 더 흔합니다."라고 제작자를 요구하는 법안을 발의한 뉴욕 출신 민주당 의원 Yvette D. Clarke가 말했습니다.딥페이크 콘텐츠에 디지털 방식으로 워터마크를 표시합니다.

딥페이크 포르노를 온라인으로 공유하는 것을 불법화하는 법안을 추진하는 또 다른 뉴욕 민주당 하원의원인 조 모렐(Joe Morelle) 의원은 스위프트에게 일어난 일이 충격적이며 인터넷 전반에 점점 더 널리 퍼지고 있다고 말했습니다.

모렐은 성명을 통해 "이미지는 가짜일 수 있지만 그 영향은 매우 현실적"이라고 말했다."점점 더 디지털화되는 세상에서 여성들을 대상으로 딥페이크가 매일 일어나고 있습니다. 이제는 이를 중단해야 할 때입니다."

안에:
• 딥페이크
• 테일러 스위프트
• 인공지능