하원 정보위원회는 소위 말하는 위협에 대해 전문가로부터 들었습니다.딥 페이크" 비디오 및 기타 유형의 인공 지능 생성 합성 데이터는 미국 선거 시스템과 국가 안보 전반에 영향을 미칩니다. 목요일 청문회에는 메릴랜드 대학교, 버팔로 대학교 교수 및 기타 AI 및 디지털 정책 전문가가 증인으로 참여했습니다. 

위원회는 성명에서 "AI 기반 가짜 콘텐츠로 인한 국가 안보 위협, 이를 탐지하고 퇴치하기 위해 무엇을 할 수 있는지, 공공 부문, 민간 부문, 사회 전체가 어떤 역할을 하는지 조사하는 것을 목표로 한다"고 밝혔습니다.목요일 청문회에서는 잠재적으로 암울할 수 있는 '탈진실' 미래에 맞서기 위해 노력해야 합니다. 

이번 청문회는 유명 인사들이 한 번도 말하지 않은 말을 하는 모습을 보여주는 인터넷 동영상이 증가하는 가운데 이루어졌습니다. 

최근에낸시 펠로시 하원의장의 조작 영상그녀가 장애가 있는 것처럼 보이는 는 소셜 미디어에서 화제를 모았습니다.이 영상은 트럼프 대통령이 펠로시의 연설 패턴과 공직 적합성을 조명하기 위해 공유한 후 페이스북에서 250만 회 이상의 조회수를 기록했습니다.공화당과 민주당은 이제 이러한 조작된 비디오가 미국과 기타 서구 민주주의 국가를 상대로 한 허위 정보 전쟁의 최신 무기가 될 것이라고 우려하고 있습니다.

위원회는 성명을 통해 “딥 페이크는 국가 안보와 민주적 통치에 대한 심오한 의문을 제기하며 개인과 유권자는 더 이상 자신의 화면에서 보는 내용의 진위 여부를 평가할 때 자신의 눈이나 귀를 믿을 수 없게 된다”고 밝혔다. 

개회 연설에서 아담 쉬프(Adam Schiff) 위원회 위원장은 조작된 비디오의 확산이 2020년 대선에 "악몽 같은" 시나리오를 제시한다고 말했습니다. 이는 국회의원, 언론 매체 및 대중이 "무엇이 진짜이고 무엇이 진실인지 분별하기 위해 고군분투하게 만드는 것"입니다.가짜."

Schiff는 "바이러스성 딥페이크가 2020년 선거를 오염시킨 후 2021년이 아니라 지금은 소셜 미디어 회사가 잘못된 정보로부터 사용자를 보호하기 위한 정책을 시행해야 할 때입니다. 그때까지는 너무 늦을 것"이라고 촉구했습니다.

청문회 하이라이트:

전문가: 딥페이크를 물리치는 데 "만병통치약"은 없습니다

메릴랜드 대학교 프란시스 킹 캐리 법과대학 교수인 다니엘 시트론(Danielle Citron)은 딥페이크 확산을 막을 수 있는 유한한 방법은 없지만 해결을 위해서는 "법률, 시장 및 사회적 회복력"의 조합이 필요하다고 증언했습니다. 

"그러나 법은 적당한 역할을 합니다"라고 Citron은 인정했습니다.그녀는 민사 소송의 피해자가 동영상으로 인한 명예 훼손이나 정서적 고통을 이유로 소송을 제기할 수 있다고 설명했지만 "고소하는 데는 엄청나게 비용이 많이 들고 형법은 우리가 추진할 수 있는 수단이 너무 적습니다"라고 덧붙였습니다.

전문가들은 "위험한" 가설을 제시합니다. 

"우리는 우리의 눈과 귀가 우리에게 말하는 것을 믿는 경향이 있습니다...비디오는 본능적입니다....더 외설적일수록 우리는 그것을 기꺼이 전달하려고 합니다. 전체 기업은 클릭하고 공유하는 것입니다"라고 Citron은 증언했습니다.그녀는 딥페이크가 포르노 자료 및 기업공개(IPO)를 포함하여 해로운 방식으로 사용될 수 있는 몇 가지 가상의 상황을 제시했습니다. 

"공모 전날 밤... 회사의 CEO를 보여주는 딥페이크는... IPO를 뒤집을 수 있으며, 시장은 우리가 폭로할 수 있는 것보다 훨씬 빠르게 반응하고 하락할 것입니다."라고 그녀는 제안했습니다. 

전문가는 국회의원들이 소셜 미디어 회사와 협력해야 한다고 말합니다.

외교 정책 연구소(Foreign Policy Research Institute)의 클린트 와츠(Clint Watts)는 정치인들이 온라인에 공유되는 모든 딥페이크 동영상에 나오는 "비방을 신속하게 반박"하기 위해 노력해야 한다고 말했습니다.그는 이것이 소셜 미디어 회사와의 "파트너십"을 통해 이루어질 수 있다고 지적했습니다.Watts는 또한 2016년 러시아의 간섭 캠페인 이후에도 마찬가지로 정부가 트롤 농장에 대해 엄격한 제재를 가하기 위한 노력을 계속하고 있다고 제안했습니다. 

Watts는 "GRU 기소장을 보면 본질적으로 제재를 받고 추방되고 있다는 것을 알 수 있습니다."라고 말했습니다.그는 트롤 농장에 관련된 해커와 기업이 미국 정부에 의해 기소된 후 해당 기업에 고용되기를 원하지 않는다고 제안했습니다.사실상 제재 조치는 해당 기업의 고용을 줄이는 데 도움이 되었습니다. 

전문가는 딥페이크의 "즉각적인" 성격의 위험성을 경고합니다.

SUNY Empire Innovation 교수이자 Buffalo 대학 인공 지능 연구소 소장인 David Doermann은 "거짓말은 진실이 신발을 신을 때까지 지구 반대편으로 갈 수 있으며 그것은 사실입니다"라고 증언했습니다. 

"개인적으로 나는 뉴스가 실시간으로 지연되는 방식으로 이를 수행하고 상황이 즉각적이어야 할 이유가 없으며 소셜 미디어가 이러한 종류의 지연을 주입해야 할 이유가 없다고 제안했습니다."라고 그는 제안했습니다.소셜 미디어 회사가 검증 가능한 오디오와 비디오를 함께 연결하고 "맬웨어나 사이버 문제와 마찬가지로" 해당 사이트에서 해당 비디오를 제거하는 결정을 내리는 데 사용할 수 있는 도구가 있다고 말했습니다.

"우리는 현관문을 보호하고 있습니다"라고 그는 말했습니다. 

2020년 캠페인은 딥페이크에 대해 무엇을 할 수 있나요?

전문가들은 대선 후보와 각 캠페인이 소셜 미디어 회사와 협력하여 잘못된 정보에 대한 "통일된 표준"을 만들어야 한다고 증언했습니다. 

"업계가 극단주의, 허위 정보, 이 문제를 처리하기 위한 신속한 대응에 협력하도록 압력을 가하고 있습니다. 대응 측면에서 어떤 종류의 지연이라도 있으면 음모가 커질 수 있으며, 더 빨리 밝혀낼수록 더 나은 주류 매체와 기타 관료들이 될 것입니다.도움이 될 수 있습니다."라고 Watts는 주장했습니다. 

Citron은 캠페인이 캠페인 과정에서 딥페이크를 퍼뜨리거나 공유하지 않겠다고 "약속"해야 하며 온라인에서 잘못된 정보를 직접적으로 반박하기 위해 소셜 미디어 회사와 더 나은 관계를 구축해야 한다고 말했습니다. 

그녀는 소비자와 유권자가 "허무주의적이지 않고 회의적인" 법을 배워야 한다고 말했습니다.

딥페이크, 허위 정보의 장기적인 "부식성" 효과 

전문가들은 딥페이크의 사용이 정치뿐만 아니라 저널리즘과 같은 사회에 심각한 영향을 미친다는 데 모두 동의했습니다.OpenAI의 정책 책임자인 Jack Clark는 조작이 보도가 실제로 부정확하다는 것을 대중에게 확신시키려고 하기 때문에 이를 뉴스 미디어에 대한 "은밀한 위협"이라고 말했습니다. 

Citron은 사실을 폭로하기 어려운 딥페이크가 잠재적으로 언론인들이 그것이 가짜라는 두려움 때문에 증거에 의존하거나 보도하게 만들 수 있다고 말하면서 이에 동의했습니다.그녀는 이를 '온라인 트롤의 부식적인 노력은 저널리즘과 미디어를 포함한 모든 것에 영향을 미치는 '진실 부패'라고 불렀습니다. 

한편 왓츠는 초과 근무, 허위 정보 및 딥페이크의 사용이 "장기적인 무관심"으로 이어질 수 있다고 경고했습니다.

“만약 초과근무를 하면 허구와 사실을 구분할 수 없다면 그들은 모든 것을 믿거나 전혀 믿게 될 것입니다.”라고 Watts는 말했습니다.그는 크렘린이 여론을 통제하기 위해 "거짓의 소방 호스"를 사용한다고 말하면서 러시아 정부와 국민 사이의 관계를 지적했습니다. 

Emily Tillett과 Olivia Gazis의 보고