/

그러나 더 많은 Microsoft AI 가드레일을 추가하는 것 외에 그가 무엇을 해야 할지 아는 것이 확실하지 않습니다.

에 의해 아디 로버트슨,VR, 온라인 플랫폼, 표현의 자유에 중점을 둔 수석 기술 및 정책 편집자입니다.Adi는 2011년부터 The Verge에서 비디오 게임, 바이오 해킹 등을 다루었습니다.

|

로라 노먼드 / 더 버지

마이크로소프트 사티아 나델라 CEO가 논란에 대해 답변했다.AI가 만든 테일러 스위프트의 성적으로 노골적인 가짜 이미지.와의 인터뷰에서NBC 야간 뉴스다음 주 화요일에 방송될 이 프로그램에 대해 Nadella는 합의되지 않은 시뮬레이션 누드의 확산을 '놀랍고 끔찍하다'고 말하면서 인터뷰 진행자 Lester Holt에게 '이 문제에 대해 빨리 조치를 취해야 한다고 생각합니다'라고 말했습니다.

1월 30일 쇼를 앞두고 NBC가 배포한 녹취록에서 홀트는 나델라에게 가짜가 폭발하는 인터넷에 반응하라고 요청했고 나는 테일러 스위프트의 가짜이고 성적으로 노골적인 이미지를 강조했습니다. 나델라의 반응은 가까스로기술 정책 웜 캔 몇 개를 열어보면서 이에 대해 거의 언급하지 않습니다. 확실한 해결책이 보이지 않는다면 이는 놀라운 일이 아닙니다.

두 가지를 말하고 싶습니다. 첫째, 다시 한 번 우리의 책임이라고 생각하는 것, 즉 더 안전한 콘텐츠가 있도록 기술 주변에 배치해야 하는 모든 가드레일로 돌아가는 것입니다.생산되고 있습니다.그리고 거기에는 해야 할 일도 많고, 하고 있는 일도 많습니다.하지만 그것은 글로벌, 사회적, 즉 특정 규범에 대한 수렴에 관한 것입니다.그리고 우리는 할 수 있습니다. 특히 법과 법 집행 기관, 그리고 함께 모일 수 있는 기술 플랫폼이 있을 때... 우리는 우리가 생각하는 것보다 훨씬 더 많은 것을 통치할 수 있다고 생각합니다.

Microsoft는 위조된 Swift 사진과 관련이 있을 수 있습니다.에이404 미디어보고서Microsoft Designer 이미지 생성기 사용을 권장하는 Telegram 기반의 합의되지 않은 포르노 제작 커뮤니티에서 나온 것임을 나타냅니다.디자이너는 이론적으로 유명인의 이미지 제작을 거부하지만 AI 생성기는속이기 쉽다, 그리고404프롬프트를 약간만 조정하면 규칙을 깨뜨릴 수 있다는 사실을 발견했습니다.이것이 Swift 사진에 Designer가 사용되었음을 증명하는 것은 아니지만 이는 Microsoft가 해결할 수 있는 일종의 기술적 단점입니다.

그러나 AI 도구는 실제 사람의 가짜 누드를 만드는 과정을 대폭 단순화했습니다.소란을 일으키다여성을 위한Swift보다 권력과 유명인이 훨씬 적습니다..그리고 그들의 생산을 통제하는 것은 거대 기업들이 가드레일을 강화하도록 하는 것만큼 간단하지 않습니다.Microsoft와 같은 주요 '빅 테크' 플랫폼이 폐쇄되더라도 사람들은 Stable Diffusion과 같은 개방형 도구를 재교육하여 다음을 수행할 수 있습니다.NSFW 사진 제작시도에도 불구하고그걸 더 어렵게 만들어.훨씬 적은 수의 사용자가 이러한 생성기에 액세스할 수 있지만 Swift 사건은 소규모 커뮤니티 작업이 얼마나 광범위하게 확산될 수 있는지 보여줍니다.

나델라는 더 큰 사회적, 정치적 변화를 막연하게 제안하지만,AI 규제에 대한 초기 움직임, Microsoft가 협력할 수 있는 명확한 범위의 솔루션이 없습니다.국회의원과 법 집행 기관은 어떻게 해야 할지 고민하고 있습니다.일반적으로 합의되지 않은 성적 이미지를 처리합니다., 그리고 AI 가짜는 추가합니다추가 합병증.일부 의원들은 개편을 시도하고 있다.퍼블리시티권법문제를 해결하기 위해 노력했지만 제안된 솔루션은 종종언어에 심각한 위험을 초래.백악관은이 문제에 대한 '입법적 조치'를 촉구했습니다., 그러나 그것이 무엇을 의미하는지에 대한 아주 작은 세부 정보도 제공했습니다.

합의되지 않은 이미지의 도달 범위를 제한하는 소셜 네트워크와 같은 다른 임시방편 옵션도 있습니다.Swiftie가 부과한 자경단의 정의그것을 퍼뜨리는 사람들을 상대로.(그것이 '특정 규범에 대한 수렴'으로 간주됩니까?) 하지만 현재로서는 Nadella의 유일한 명확한 계획은 Microsoft 자체 AI 하우스를 정리하는 것입니다.