隨著人工智慧網路變得更加熟練和更容易訪問，數位化處理的「深度偽造」照片和影片越來越難以檢測。紐約州立大學賓厄姆頓大學領導的一項新研究使用頻域分析技術分解影像，並尋找可能表明它們是由人工智慧產生的異常現象。

在一篇論文中發表在資訊科學的顛覆性技術 VIII，博士。賓漢姆頓大學電機與電腦工程系的學生 Nihal Poredi、Deeraj Nagothu 和 Yu Chen 教授比較了真實和虛假的圖像，除了圖像處理的跡象（例如拉長的手指或亂碼的背景文本）。參與撰寫這篇論文的還有維吉尼亞州立大學的碩士生 Monica Sudarsan 和 Enoch Solomon 教授。

該團隊使用 Adob​​e Firefly、PIXLR、DALL-E 和 Google Deep Dream 等流行的生成式 AI 工具創建了數千張影像，然後使用訊號處理技術進行分析，以便了解它們的頻域特徵。人工智慧生成的圖像和自然圖像的頻域特徵的差異是使用機器學習模型區分它們的基礎。

當使用生成對抗網路影像認證（GANIA）工具比較影像時，研究人員可以根據人工智慧生成假冒影像的方式發現異常情況（稱為偽影）。建立人工智慧影像最常見的方法是上採樣，它克隆像素以使檔案大小更大，但會在頻域中留下指紋。

「當你用真正的相機拍照時，你會獲得來自整個世界的信息——不僅是你想拍照的人、花、動物或物體，而且還嵌入了各種環境信息。 ”，陳說。

“使用生成式人工智慧，圖像將專注於你要求它生成的內容，無論你多麼詳細。你無法描述，例如，空氣品質如何，風如何吹，或者所有發生的小事情。背景元素。”

Nagothu 補充道：“雖然有許多新興的人工智慧模型，但這些模型的基本架構基本上保持不變。這使我們能夠利用其內容操作的預測性質，並利用獨特且可靠的指紋來檢測它。”

該研究論文還探討如何使用 GANIA 來識別照片的人工智慧起源，從而限制透過深度偽造圖像傳播的錯誤訊息。

“我們希望能夠識別不同人工智慧圖像生成器的‘指紋’，”波雷迪說。“這將使我們能夠建立平台來驗證視覺內容並防止與錯誤訊息活動相關的任何不良事件。”

與 Deepfake 一起圖片，該團隊開發了一種技術來檢測基於人工智慧的虛假音訊視訊記錄。開發的名為「DeFakePro」的工具利用了稱為電網頻率（ENF）訊號的環境指紋，該訊號是由於電網中輕微的電力波動而產生的。就像微妙的背景嗡嗡聲一樣，該訊號在錄製時自然嵌入到媒體檔案中。

透過分析該錄音時間和地點所特有的訊號，DeFakePro 工具可以驗證錄音是否真實或是否已被竄改。該技術對於深度偽造非常有效，並進一步探索如何保護大規模智慧監控網路免受此類基於人工智慧的偽造攻擊。在我們日益互聯的世界中，這種方法可以有效地打擊錯誤訊息和數位詐欺。

波雷迪說：“錯誤訊息是當今國際社會面臨的最大挑戰之一。”「生成式人工智慧在許多領域的廣泛使用導致了它的濫用。再加上我們對社群媒體的依賴，這成為了錯誤訊息災難的爆發點。這在對社群媒體和言論限制最少的國家尤其明顯。

儘管生成式人工智慧模型被濫用，但它們也為推進成像技術做出了重大貢獻。研究人員希望幫助大眾區分虛假內容和真實內容，但跟上最新的創新可能是一個挑戰。

「人工智慧發展得如此之快，一旦你開發出了深度換臉偵測器，下一代人工智慧工具就會考慮到這些異常情況並修復它們，」陳說。“我們的工作就是嘗試做一些打破常規的事情。”

更多資訊：Nihal Poredi 等人，使用頻域分析的基於生成對抗網路的人工智慧生成圖像認證，資訊科學中的顛覆性技術 VIII（2024）。DOI：10.1117/12.3013240