오해의 소지가 있는 정보가 온라인에 퍼지면 빠르게 퍼질 수 있습니다.

그러나 바이러스성 사진, 비디오 및 오디오의 진위를 신속하게 밝혀낼 수 있는 최고의 도구 중 다수는 버팔로 대학교(University at Buffalo)와 같은 연구자만이 사용할 수 있습니다.딥페이크전문가 류시웨이.

"모두들소셜 미디어 사용자에게언론인에게법 집행미디어의 일부가 다음에 의해 생성된 징후를 보이는지 알아내기 위해 종종 나 같은 사람을 거쳐야 합니다.인공지능"라고 일상적으로 그러한 요청을 이행하는 Lyu는 말합니다. "시간이 중요할 때는 즉각적이고 결정적인 분석을 얻을 수 없습니다."

이것이 바로 UB Media Forensics Lab의 Lyu와 그의 팀이 개발한 이유입니다.DeepFake-o-Meter는 여러 최첨단 딥페이크 탐지 알고리즘을 하나의 오픈 소스 웹 기반 플랫폼으로 결합한 것입니다.사용자가 해야 할 일은 무료 계정에 가입하고 미디어 파일을 업로드하는 것뿐입니다.결과는 일반적으로 1분 이내에 반환됩니다.

11월부터 플랫폼에 6,300개 이상의 제출물이 접수되었습니다.언론 매체는 이를 사용하여 다양한 AI 생성 콘텐츠를 분석했습니다.조 바이든 자동녹음전화뉴햄프셔 주민들에게 투표하지 말라고 말함볼로디미르 젤렌스키 우크라이나 대통령의 영상러시아에 항복.

"목표는 대중과 대중 사이의 격차를 해소하는 것입니다.연구 공동체"라고 UB 공학 및 응용 과학 대학 내 컴퓨터 과학 및 공학과의 SUNY Empire 혁신 교수인 Lu 박사는 말합니다. "소셜 미디어 사용자와 연구원을 하나로 모으는 것은 제기된 많은 문제를 해결하는 데 중요합니다.딥페이크에 의해."

작동 방식

DeepFake-o-Meter를 사용하는 것은 간단합니다.

이미지를 드래그 앤 드롭하고,동영상또는 오디오 파일을 업로드 상자에 넣습니다.그런 다음 정확도, 실행 시간, 개발 연도 등 나열된 다양한 측정항목을 기반으로 탐지 알고리즘을 선택합니다.

그런 다음 각 알고리즘은 콘텐츠가 AI로 생성되었을 가능성의 백분율을 제공합니다.

신뢰할 수 없고 오해의 소지가 있는 콘텐츠에 맞서 싸우는 UB 정보 무결성 센터의 공동 책임자이기도 한 Lyu는 "우리는 업로드된 콘텐츠에 대해 강력한 주장을 하지 않습니다. 우리는 단지 다양한 방법으로 콘텐츠에 대한 포괄적인 분석을 제공할 뿐입니다"라고 말합니다.온라인 정보."사용자는 이 정보를 사용하여 콘텐츠가 진짜라고 생각하는지 스스로 결정할 수 있습니다."

투명도

올해 초 Poynter는 4개의 무료 온라인 딥페이크 탐지 도구를 사용하여 가짜 Biden 자동녹음전화를 분석했습니다.DeepFake-o-Meter는 가장 정확하여 오디오가 AI로 생성되었을 가능성이 69.7%였습니다.

Lyu는 자신의 도구를 차별화하는 또 다른 요소는 투명성과 다양성이라고 말합니다.DeepFake-o-Meter는 오픈 소스입니다. 즉, 대중은 알고리즘의 소스 코드에 접근할 수 있으며 Lyu와 전 세계의 다른 연구 그룹이 개발한 알고리즘을 특징으로 하여 광범위한 의견과 전문 지식을 허용합니다.

"다른 도구의 분석은 정확할 수 있지만 그러한 결론에 도달하기 위해 어떤 알고리즘을 사용했는지 공개하지 않으며 사용자는 편향될 수 있는 하나의 응답만 볼 수 있습니다"라고 Lyu는 말합니다."우리는 최대한의 투명성과 다양성을 제공하려고 노력하고 있습니다.오픈 소스다양한 연구 그룹의 코드입니다."

연구자에게도 이익이 된다

미디어를 업로드하기 전에 사이트에서는 사용자에게 해당 미디어를 연구원과 공유할 것인지 묻습니다.

Lyu와 그의 팀은 주로 자신과 다른 연구팀이 수집한 데이터 세트를 기반으로 알고리즘을 훈련하지만 실제로 온라인에 유통되는 미디어에 알고리즘을 노출시키는 것이 중요하다고 말했습니다.지금까지 DeepFake-o-Meter에 업로드된 콘텐츠 중 거의 90%가 사용자에 의해 가짜로 의심되었습니다.

Lyu는 "새롭고 더욱 정교한 딥페이크가 항상 등장하고 있습니다. 최신 상태를 유지하려면 알고리즘을 지속적으로 개선해야 합니다"라고 말했습니다."모든 연구 모델이 실제 세계에 영향을 미치려면 실제 데이터가 필요합니다."

플랫폼의 미래

Lyu는 먼저 AI 생성 콘텐츠를 생성하는 데 가장 많이 사용되는 AI 도구를 식별하는 등 AI 생성 콘텐츠를 발견하는 것 이상으로 플랫폼의 용량을 늘리기를 희망합니다.그의 그룹은 이전에 그러한 도구를 개발했습니다.

Lyu는 "이것은 배후에 있는 사람을 좁힐 수 있는 단서를 제공할 것"이라고 말했습니다."미디어가 합성되었거나 조작되었다는 사실을 아는 것만으로는 충분하지 않습니다. 우리는 그 뒤에 누가 있고 그들의 의도가 무엇인지 알아야 합니다."

탐지 알고리즘의 가능성에도 불구하고 그는 인간이 여전히 해야 할 역할이 크다고 경고합니다.알고리즘은 인간의 눈이나 귀가 결코 감지하지 못하는 조작의 징후를 감지할 수 있지만, 인간은 알고리즘이 종종 감지하지 못하는 현실이 어떻게 작동하는지에 대한 의미론적 지식을 가지고 있습니다.

"우리는 알고리즘이나 인간에만 의존할 수 없습니다"라고 Lyu는 말합니다."우리는 둘 다 필요해요."

그렇기 때문에 그는 DeepFake-O-Meter가 궁극적으로 사용자가 AI 생성 콘텐츠를 조사하고 서로 소통하고 돕는 자체 온라인 커뮤니티를 육성하기를 희망합니다.

"저는 이를 딥페이크 현상금 사냥꾼을 위한 시장으로 생각하고 싶습니다."라고 그는 말합니다."딥페이크 문제를 해결하려면 공동의 노력이 필요하기 때문입니다."