영국에서 가장 잘 알려진 TV 의사 중 일부가 소셜 미디어를 통해 사기 제품을 판매하기 위해 비디오에서 점점 더 "딥페이크"되고 있는 것으로 나타났습니다.BMJ오늘.

Hilary Jones, Michael Mosley 및 Rangan Chatterjee를 포함한 신뢰할 수 있는 이름이 문제를 해결한다고 주장하는 제품을 홍보하는 데 사용되고 있습니다.고혈압언론인 Chris Stokel-Walker는 당뇨병과 대마 구미 판매에 대해 설명합니다.

딥페이킹(Deepfaking)은 인공지능(AI)을 이용해 실제 인간의 디지털 유사성을 컴퓨터에 매핑하는 것입니다.동영상그들의 것이 아닌 몸.그것이 얼마나 설득력 있는지에 대한 신뢰할 수 있는 증거를 얻기 어려울 수 있지만, 최근 한 연구에 따르면 과학 주제에 대해 이야기하는 딥페이크를 본 사람 중 최대 절반이 실제 비디오와 구별할 수 없는 것으로 나타났습니다.

Essex에 거주하는 은퇴한 의사인 John Cormack은 다음과 같이 일했습니다.BMJ소셜 미디어를 통해 소위 딥페이크 의사의 규모를 파악하려고 합니다.

"결론은 연구를 수행하고 새로운 제품을 내놓고 기존 방식으로 시장에 출시하는 것보다 비디오 제작에 현금을 지출하는 것이 훨씬 저렴하다는 것입니다."라고 그는 말합니다.

유명 의사와 유명인의 초상을 차용하는 소셜 미디어의 수많은 의심스러운 콘텐츠는 우리가 현재 겪고 있는 AI 혁명의 불가피한 결과라고 AI 전문가인 Henry Ajder는 말합니다.딥페이크기술."음성 복제 및 아바타 생성을 위한 접근 가능한 AI 도구의 급속한 민주화는 사기 및 사칭 환경을 변화시켰습니다."

소셜 미디어 전문가를 고용하여 자신의 견해를 허위로 표현하는 딥페이크 동영상을 찾아 웹에서 삭제하려는 Jones는 "이런 종류의 활동이 크게 증가했습니다"라고 말했습니다."그렇다고 해도 다음 날 다른 이름으로 튀어나올 뿐입니다."

Cormack이 찾은 많은 동영상이 호스팅된 Facebook과 Instagram을 모두 소유한 회사인 Meta의 대변인은 다음과 같이 말했습니다.BMJ, "우리는 강조된 사례를 조사할 것입니다.영국 의학 저널.Google은 의도적으로 다른 사람을 속이거나 사기를 꾀하는 콘텐츠를 허용하지 않으며, 탐지 및 집행을 개선하기 위해 지속적으로 노력하고 있습니다.우리 정책을 위반할 수 있는 콘텐츠를 보는 사람은 누구나 이를 신고하여 조사하고 조치를 취할 것을 권장합니다."

Deepfake는 사람들의 감정을 잡아먹는 방식으로 작동하며 Stokel-Walker에 따르면 의료 제품의 경우정서적 연결놀라운 약이나 놀라운 의료 제품에 대해 이야기하는 개인이 더욱 중요합니다.

당신이 모르는 사람이 특정 치료법의 장점을 당신에게 팔려고 하면 의심을 받을 수도 있습니다.하지만 그 사람이 이전에 소셜 미디어, 텔레비전, 라디오에서 본 적이 있는 사람이라면 그 사람의 말을 믿을 가능성이 더 높습니다.

기술이 향상됨에 따라 딥페이크를 발견하는 것도 까다로울 수 있다고 Ajder는 말합니다. "이 새로운 형태의 딥페이크 사기가 얼마나 효과적인지 정량화하기는 어렵지만 현재 유포되는 동영상의 양이 늘어나는 것은 악의적인 행위자가 어느 정도 성공을 거두고 있음을 시사합니다."

유사품이 채택된 사람들을 위해 할 수 있는 일은 거의 없어 보이지만 Stokel-Walker는 딥페이크를 발견한 경우 어떻게 해야 하는지에 대한 몇 가지 팁을 제공합니다.예를 들어, 내용을 주의 깊게 살펴보고 의심이 근거가 충분한지 확인한 다음 댓글을 남겨서 그 진실성에 의문을 제기하세요.플랫폼에 내장된 신고 도구를 사용하여 우려 사항을 표명하고 마지막으로 게시물을 공유한 사람이나 계정을 신고하세요.