誤解を招く情報がオンラインで拡散すると、急速に拡散する可能性があります。

しかし、ウイルスの写真、ビデオ、音声の誤りを迅速に暴くための最良のツールの多くは、バッファロー大学などの研究者のみが利用できます。ディープフェイク専門家のシウェイ・リュー氏。

「からの皆さんソーシャルメディアユーザーにジャーナリストに法執行機関メディアが何かによって生成された兆候があるかどうかを確認するには、私のような人を介さなければならないことがよくあります。人工知能」とリュー氏は言う。彼はそのような要求に日常的に応じている。「時間が非常に重要な場合、彼らは即座に決定的な分析を得ることができない。」

だからこそ、Lyu と UB Media Forensics Lab のチームは、ディープフェイクメーター、いくつかの最先端のディープフェイク検出アルゴリズムを 1 つのオープンソースの Web ベースのプラットフォームに組み合わせています。ユーザーが行う必要があるのは、無料アカウントにサインアップしてメディア ファイルをアップロードすることだけです。通常、結果は 1 分以内に返されます。

11 月以来、このプラットフォームには 6,300 件以上の投稿がありました。メディア媒体は、AI によって生成されたさまざまなコンテンツを分析するためにこれを使用しました。ジョー・バイデンのロボコールニューハンプシャー州住民に投票しないよう呼びかけているウクライナのウォロディミル・ゼレンスキー大統領のビデオロシアに降伏する。

「目標は、一般大衆と社会との間の溝を埋めることです。研究コミュニティ」と、UB 工学応用科学大学院コンピュータ科学工学科の SUNY Empire Innovation 教授である Lu 博士は言います。「ソーシャル メディア ユーザーと研究者を結び付けることは、提起されている問題の多くを解決するために重要です」ディープフェイクによって。」

仕組み

DeepFake-o-Meter の使用は簡単です。

画像をドラッグ＆ドロップし、ビデオまたは音声ファイルをアップロード ボックスにアップロードします。次に、精度、実行時間、開発年など、リストされているさまざまな指標に基づいて検出アルゴリズムを選択します。

各アルゴリズムは、コンテンツが AI によって生成された可能性のパーセンテージを示します。

「私たちは、アップロードされたコンテンツについて強い主張をしているわけではありません。私たちは、幅広い方法からそのコンテンツの包括的な分析を提供しているだけです」と、信頼性の低い、誤解を招く情報と闘う UB Center for Information Integrity の共同ディレクターでもある Lyu 氏は言います。オンラインの情報。「ユーザーはこの情報を利用して、コンテンツが本物だと思うかどうかを自分で判断できます。」

透明性

今年初め、ポインター氏は4つの無料のオンラインディープフェイク検出ツールを使用して、偽のバイデンロボコールを分析した。DeepFake-o-Meter が最も正確で、音声が AI によって生成された可能性は 69.7% でした。

Lyu 氏は、自分のツールを際立たせるもう 1 つの点は透明性と多様性だと言います。DeepFake-o-Meter はオープンソースであり、一般の人々がアルゴリズムのソース コードにアクセスできることを意味し、Lyu と世界中の他の研究グループの両方によって開発されたアルゴリズムを特徴としており、幅広い意見や専門知識を得ることができます。

「他のツールの分析は正確かもしれないが、その結論に至るまでにどのようなアルゴリズムを使用したかは開示されておらず、ユーザーには 1 つの応答しか表示されず、バイアスがかかっている可能性がある」とリュー氏は言う。「私たちは最大限の透明性と多様性を提供しようとしています。オープンソースさまざまな研究グループからのコードです。」

研究者にとってもメリット

メディアをアップロードする前に、サイトはユーザーにそれを研究者と共有したいかどうかを尋ねます。

リュー氏と彼のチームは主に、自分たちや他の研究チームが編集したデータセットに基づいてアルゴリズムをトレーニングしているが、実際にオンラインで流通しているメディアにアルゴリズムを公開することが重要だと彼は言う。これまでに DeepFake-o-Meter にアップロードされたコンテンツのほぼ 90% は、ユーザーによる偽物である疑いがありました。

「より洗練された新しいディープフェイクが常に登場しています。最新の状態を維持するには、アルゴリズムを継続的に改良する必要があります」とリュー氏は言います。「研究モデルが現実世界に影響を与えるには、現実世界のデータが必要です。」

プラットフォームの未来

Lyu 氏は、AI が生成したコンテンツを特定するだけでなく、そもそもコンテンツの作成に使用された可能性が最も高い AI ツールを特定するなど、プラットフォームの能力を強化したいと考えています。彼のグループは以前にもそのようなツールを開発しました。

「これは誰が黒幕なのかを絞り込む手がかりとなるだろう」とリュー氏は言う。「メディアが合成または操作されたものであることを知るだけでは必ずしも十分ではありません。私たちはその背後に誰がいるのか、彼らの意図は何なのかを知る必要があります。」

検出アルゴリズムの期待にもかかわらず、人間が果たすべき役割は依然として大きいと同氏は警告する。アルゴリズムは、人間の目や耳では決して検出できない操作の兆候を検出できますが、人間は、現実がどのように機能するかについて、アルゴリズムがしばしば持たない意味論的な知識を持っています。

「アルゴリズムや人間だけに頼ることはできません」とリュー氏は言う。「両方必要です。」

だからこそ彼は、DeepFake-O-Meter が最終的には独自のオンライン コミュニティを育成し、ユーザー同士が通信し、AI が生成したコンテンツを調べて助け合うことを望んでいます。

「私はそれをディープフェイクの賞金稼ぎのための市場として考えるのが好きです」と彼は言います。「ディープフェイク問題を解決するには、団結した努力が必要だからです。」