英国で最も有名なテレビ医師の一部が、ソーシャルメディア上で詐欺商品を販売するためにビデオで「ディープフェイク」されることが増えていることが判明BMJ今日。

ヒラリー・ジョーンズ、マイケル・モズレー、ランガン・チャタジーなどの信頼できる名前が、修正を主張する製品の宣伝に使用されています。高血圧ジャーナリストのクリス・ストケル・ウォーカー氏は、麻のグミを売るためだと説明する。

ディープフェイクとは、人工知能 (AI) を使用して、現実の人間のデジタル似姿を画像上にマッピングすることです。ビデオ彼らのものではない体のもの。それがどれほど説得力があるかについて信頼できる証拠を入手するのは難しいかもしれませんが、ある最近の研究では、科学的主題について話しているディープフェイクを見せられた人の最大半数が、本物のビデオと区別できないことが示唆されています。

エセックスを拠点とする元医師のジョン・コーマック氏は、BMJソーシャルメディア上でいわゆるディープフェイク医師の規模感を捉えようとするためだ。

「要するに、従来の方法で研究を行って新製品を考え出し、市場に出すことにお金を費やすよりも、動画の制作にお金を費やすほうがはるかに安いということです」と彼は言う。

人気の医師や有名人の肖像を利用したソーシャルメディア上の大量の疑わしいコンテンツは、私たちが現在経験しているAI革命の避けられない結果である、と専門家のヘンリー・アジダーは言うディープフェイクテクノロジー。「音声クローンとアバター生成のためのアクセス可能な AI ツールの急速な民主化により、詐欺となりすましの状況は一変しました。」

「この種の活動は大幅に増加しています」とジョーンズ氏は言う。ジョーンズ氏はソーシャルメディアの専門家を雇って、自分の見解を偽り、それを削除しようとするディープフェイク動画をウェブ上で探し回っている。「たとえそうしたとしても、次の日に別の名前で現れるだけです。」

FacebookとInstagramの両方を所有するMeta社の広報担当者は、コーマック氏が見つけたビデオの多くがホストされていたと語った。BMJ、「で取り上げられた例を調査します。」英国医学ジャーナル。Google では、他者を意図的に欺いたり、詐欺を試みたりするコンテンツを許可しておりません。また、検出と執行の改善に常に取り組んでいます。当社のポリシーに違反する可能性のあるコンテンツを見つけた場合は、調査して措置を講じることができるよう、報告することをお勧めします。」

ディープフェイクは人々の感情を食い物にすることで機能し、医療製品に関してはこう書いている、とストークル・ウォーカー氏は書いている。感情的なつながり特効薬や素晴らしい医薬品について語る個人であればなおさら重要です。

あなたの知らない誰かが、特定の治療法の長所をあなたに売り込もうとしていると、疑惑を引き起こす可能性があります。しかし、その人がソーシャルメディア、テレビ、ラジオで以前に見たことのある人であれば、その人の発言を信じる可能性が高くなります。

テクノロジーが進歩しているため、ディープフェイクを見分けるのも難しい場合があるとアジュデル氏は言う。「この新しい形式のディープフェイク詐欺がどれほど効果的であるかを定量化するのは難しいが、現在出回っている動画の量が増えていることから、悪意のある者が何らかの成功を収めていることが示唆されるだろう。」

肖像画が盗用されている人々にとって、それに対してできることはほとんどないようだが、ストケル・ウォーカー氏はディープフェイクを見つけた場合の対処法についていくつかのヒントを提供している。たとえば、コンテンツを注意深く見て、疑惑に十分な根拠があることを確認してから、その信憑性を疑問視しながらコメントを残してください。プラットフォームに組み込まれている報告ツールを使用して懸念を表明し、最後に投稿を共有した人またはアカウントを報告します。