지난 한 해 동안 딥페이크의 확산과 잠재적인 위험으로 인해 개인 정보 보호, 비즈니스 윤리, 심지어 선거 간섭과 관련된 우려가 제기되었습니다.

그 결과, 딥페이크를 발견하는 방법에 대한 조언이 떠돌고 있습니다.소셜 미디어뉴스에서도 볼 수 있지만 공학 교수인 Aleksander Essex는 우리가 딥페이크 탐지를 넘어 생각을 시작하고 스스로에게 더 중요한 질문을 던져야 한다고 말합니다.

Essex는 Western Information Security 및 Privacy Research Laboratory인 Whisper Lab을 운영하며 Western News와 딥페이크 및 딥페이크가 미래 사회에 미치는 영향에 대해 이야기했습니다.

딥페이크란 무엇인가요?

아직 단일한 정의에 도달하지 못했다고 생각하지만, 우리는 딥 러닝 기술(AI의 일종)을 사용하여 실제 사람의 유사성을 허구의 이미지, 오디오 또는 비디오에 적용하는 것에 대해 이야기하고 있습니다.

딥페이크가 문제가 되나요?

분명히.금융 종사자의 경우와 같이 실제 사례가 많이 있습니다.2500만 달러를 지불했다(USD) 가짜 최고재무책임자(CFO)와의 통화 후.사용되는 웹사이트에 관한 뉴스가 있었습니다.가짜 사진 ID 생성, 그리고 올해 초 트위터는 딥페이크 누드 이후 Taylor Swift에 대한 검색을 중단했습니다.이미지가 플랫폼을 가득 채웠습니다.

선거 보안 관련 작업에서 딥페이크가 문제가 되고 있나요?

다행스럽게도 아직 캐나다에는 본격적으로 들어오지 않았습니다.그러나 이미 미국에서 일어나고 있기 때문에 결국에는 그렇게 될 것으로 예상할 수 있습니다. 우리는 다음과 같은 몇 가지 주목할만한 사례를 보았습니다.뉴햄프셔 유권자들에게 자동으로 전화를 거는 딥페이크 조 바이든.다행히도,연방 정부최근에 상정새로운 법안그 목표는거짓 진술딥페이크를 다루는 선거 관행에 관한 것입니다.

딥페이크를 식별하는 방법에는 어떤 것이 있나요?

단기적으로는 딥페이크에 대한 본능을 여전히 신뢰할 수 있는 경우가 많습니다.입이 몸과 동기화되지 않게 움직이거나 반사의 프레임 속도가 다릅니다.

중기적으로 우리는 딥페이크 탐지 소프트웨어를 사용할 수 있지만 이는군비 경쟁, 딥페이크 알고리즘이 개선됨에 따라 정확성은 시간이 지남에 따라 감소할 가능성이 높습니다.

장기적으로 딥페이크는 결국 실제 이미지와 구별할 수 없게 될 수도 있습니다.그날이 오면 우리는 더 이상 탐지를 전략으로 삼을 수 없습니다.그렇다면 AI가 딥페이크할 수 없는 것은 무엇일까요?물리적 현실 자체와 데이터를 디지털 신원에 강력하고 검증 가능하게 연결하는 강력한 암호화라는 두 가지가 있습니다.

암호화는 검색 기록을 비공개로 유지하고 비밀번호를 비밀로 유지하기 위해 사용하는 것이며 이를 통해 귀하가 본인임을 증명할 수 있습니다.현대 인터넷은 그것 없이는 존재할 수 없습니다.계산의 세계에서 AI는 다른 모든 알고리즘과 마찬가지로 알고리즘일 뿐이며 암호화는 어떤 알고리즘도 깨지기 어렵게 설계되었습니다.

우리는 여전히 물리적 실체(사람)를 디지털 신원이라는 강력한 개념에 연결할 수 있습니다.이는 '이것이딥페이크?'어쩌면 우리가 물어봐야 할 올바른 질문이 아닐 수도 있습니다.

'이것이 딥페이크인가요?'라는 질문이 잘못된 질문이라면 올바른 질문은 무엇인가요?

물어봐야 할 올바른 질문은 다음과 같습니다. 이 이미지는 어디에서 오는가?출처는 누구입니까?어떻게 알 수 있나요?

딥페이크의 정교함은 결국 실제 사진과 알고리즘으로 생성된 환상을 더 이상 구별할 수 없는 수준까지 발전할 수 있습니다.

이 세상에서 대화의 초점은 이미지의 내용보다는 이미지의 출처, 즉 출처, 커뮤니케이션 채널, 매체에 맞춰져야 합니다.그런 의미에서, "매체가 메시지이다"라는 마샬 맥루한의 옛 지혜는 아마도 그 어느 때보다도 여전히 적용됩니다.

AI와 딥페이크의 잠재적 위험성을 걱정하는 사람들에게 하고 싶은 말이 있나요?

나는 신기술에 관한 마술적 사고의 위험성에 대해 학생들과 이야기하는 데 많은 시간을 보냅니다.적어도 일반 컴퓨터에서 실행되는 종류의 AI는 살아 있지 않거나 의식이 없습니다.예, 유용할 수 있습니다.어쩌면 해로울 수도 있습니다.그러나 그것은 단지 정교한 뻐꾸기시계의 톱니바퀴가 돌아가는 것일 뿐이므로 사회는 스스로 도망갈 필요가 없습니다.

결국, 빛의 속도와 마찬가지로 계산에도 근본적인 한계가 있습니다.AI가 모든 것을 할 수는 없습니다.양자 컴퓨팅이나 블록체인도 마찬가지입니다.기억하세요: AI는 단지 도구일 뿐입니다.우리의 관심은 그것을 휘두르는 손에 있어야 합니다.