人工知能ネットワークがより熟練し、アクセスが容易になるにつれて、デジタル操作された「ディープフェイク」写真やビデオの検出はますます困難になっています。ニューヨーク州立大学ビンガムトン大学が主導する新しい研究では、周波数領域分析技術を使用して画像を分解し、AIによって生成されたことを示す可能性のある異常を探します。

ある論文で出版されたで情報科学における破壊的テクノロジー VIII、博士号ビンガムトン大学電気・コンピュータ工学科の学生ニハル・ポレディ氏、ディーラジ・ナゴトゥ氏、ユー・チェン教授らは、伸びた指や意味不明の背景テキストなどの画像操作の明らかな兆候を超えて、本物の画像と偽の画像を比較した。この論文には、バージニア州立大学の修士課程の学生モニカ・スダルサン氏とイーノック・ソロモン教授も協力した。

チームは、Adobe Firefly、PIXLR、DALL-E、Google Deep Dream などの一般的な生成 AI ツールを使用して数千枚の画像を作成し、信号処理技術を使用してそれらの画像を分析して、周波数領域の特徴を理解できるようにしました。AI で生成された画像と自然画像の周波数領域特性の違いは、機械学習モデルを使用して区別する基礎となります。

Generative Adversarial Networks Image Authentication (GANIA) と呼ばれるツールを使用して画像を比較すると、研究者は AI が偽の画像を生成する方法に起因する異常 (アーティファクトとして知られる) を見つけることができます。AI 画像を構築する最も一般的な方法はアップサンプリングです。これは、ピクセルのクローンを作成してファイル サイズを大きくしますが、周波数ドメインに指紋を残します。

「本物のカメラで写真を撮ると、写真を撮りたい人、花、動物、物だけでなく、あらゆる種類の環境情報が埋め込まれているので、全世界から情報を得ることができます。」とチェンさんは言いました。

「生成 AI を使用すると、どれほど詳細に入力しても、画像は生成を要求した内容に焦点を当てます。たとえば、空気の質や風がどのように吹いているかなど、あらゆる小さなことを説明することはできません。背景要素。」

Nagothu 氏はさらに、「多くの新しい AI モデルが登場していますが、これらのモデルの基本的なアーキテクチャはほとんど変わっていません。これにより、コンテンツ操作の予測的性質を利用し、独自で信頼できるフィンガープリントを活用してコンテンツを検出できるようになります。」と付け加えました。

研究論文では、GANIA を使用して写真の AI の出所を特定し、ディープフェイク画像を通じて広がる誤った情報を制限する方法も検討しています。

「私たちは、さまざまな AI 画像生成装置の『指紋』を識別できるようにしたいと考えています」とポレディ氏は語った。「これにより、ビジュアルコンテンツを認証し、誤った情報キャンペーンに関連するあらゆる有害事象を防ぐためのプラットフォームを構築できるようになります。」

ディープフェイクと一緒に画像、チームは偽のAIベースのオーディオビデオ録音を検出する技術を開発しました。「DeFakePro」と名付けられた開発されたツールは、送電網内のわずかな電気変動の結果として生成される電気網周波数（ENF）信号と呼ばれる環境指紋を活用している。背景のかすかなハム音のように、この信号はメディア ファイルの録音時に自然に埋め込まれます。

DeFakePro ツールは、録音の時間と場所に固有のこの信号を分析することで、録音が本物であるか、または改ざんされているかどうかを検証できます。この技術はディープフェイクに対して非常に効果的であり、このような AI ベースの偽造攻撃から大規模なスマート監視ネットワークを保護する方法をさらに検討します。このアプローチは、ますますつながりが増す世界で、誤った情報やデジタル詐欺との戦いに効果的である可能性があります。

「誤った情報は、今日国際社会が直面している最大の課題の一つです」とポレディ氏は語った。「多くの分野で生成型 AI が広く使用されていることが、その悪用につながっています。ソーシャル メディアへの依存と相まって、これが誤った情報による災害の引火点を生み出しています。これは、ソーシャル メディアや言論に対する制限が最小限である国で特に顕著です。」したがって、オンラインで共有されるデータ、特にオーディオビジュアルデータの健全性を確保することが不可欠です。」

生成 AI モデルは悪用されてきましたが、イメージング技術の進歩にも大きく貢献しています。研究者らは、一般の人々が偽のコンテンツと本物のコンテンツを区別できるようにしたいと考えていますが、最新のイノベーションについていくのは困難な場合があります。

「AIの進歩は非常に速いため、ディープフェイク検出器を開発すれば、次世代のAIツールがそれらの異常を考慮して修正してくれる」とチェン氏は語った。「私たちの仕事は、既成概念にとらわれずに何かをしようとしているのです。」

詳細情報:Nihal Poredi 他、周波数領域分析を使用した敵対的生成ネットワークベースの AI 生成画像認証、情報科学における破壊的テクノロジー VIII（2024年）。DOI: 10.1117/12.3013240