當誤導性訊息在網路上傳播時，它會迅速傳播。

然而，許多快速揭穿病毒照片、影片和音訊的最佳工具只有研究人員才能使用，例如布法羅大學深度偽造專家呂思偉。

「大家從社群媒體用戶到記者到執法經常需要透過像我這樣的人來弄清楚一段媒體是否顯示出由人工智慧”，Lyu 說，他經常滿足此類請求。“當時間至關重要時，他們無法立即獲得結論性的分析。

這就是為什麼 Lyu 和他在 UB 媒體鑑識實驗室的團隊開發了DeepFake-o-Meter，它將多種最先進的深度偽造檢測演算法結合到一個基於網路的開源平台中。用戶所需要做的就是註冊一個免費帳戶並上傳媒體檔案。結果通常會在一分鐘內返回。

自 11 月以來，已有超過 6,300 份提交到該平台。媒體機構用它來分析各種人工智慧產生的內容，喬·拜登自動電話告訴新罕布夏州居民不要投票給烏克蘭總統弗拉基米爾·澤連斯基的視頻向俄羅斯投降。

「我們的目標是彌合公眾與公眾之間的差距研究團體” 布法羅大學工程與應用科學學院計算機科學與工程系紐約州立大學帝國創新教授 Lu 博士說道。“將社交媒體用戶和研究人員聚集在一起對於解決所提出的許多問題至關重要通過深度偽造。 」

它是如何運作的

使用 DeepFake-o-Meter 非常簡單。

拖放影像，影片或音訊檔案放入上傳框。然後，根據列出的各種指標（包括準確性、運行時間和開發年份）選擇檢測演算法。

然後，每種演算法都會給出內容由人工智慧產生的可能性的百分比。

「我們不會對上傳的內容提出強烈的要求。我們只是透過多種方法對其進行全面分析，」Lyu 說，他也是布法羅大學資訊完整性中心的聯合主任，該中心致力於打擊不可靠和誤導性內容。“然後用戶可以使用這些資訊來自行決定內容是否真實。”

透明度

今年早些時候，波因特使用四種免費的線上深度造假檢測工具分析了假冒的拜登機器人電話。DeepFake-o-Meter 的準確率最高，此音訊由 AI 產生的可能性為 69.7%。

Lyu 表示，他的工具的其他獨特之處在於透明度和多樣性。DeepFake-o-Meter 是開源的，這意味著公眾可以存取演算法的原始程式碼，並且具有由 Lyu 和全球其他研究小組開發的演算法，允許廣泛的意見和專業知識。

「其他工具的分析可能是準確的，但他們沒有透露他們使用什麼演算法得出這個結論，用戶只能看到一個反應，這可能是有偏見的，」Lyu 說。「我們正在努力提供最大程度的透明度和多樣性開源來自許多不同研究小組的代碼。

對研究人員也有好處

在上傳媒體片段之前，網站會詢問使用者是否願意與研究人員分享。

Lyu 和他的團隊主要在他們自己和其他研究團隊編制的資料集上訓練他們的演算法，但他表示，將演算法暴露給實際在網路上傳播的媒體至關重要。到目前為止，上傳到 DeepFake-o-Meter 的近 90% 的內容都被用戶懷疑是假的。

「新的、更複雜的深度造假不斷出現。演算法需要不斷完善，以跟上時代的步伐，」Lyu 說。“任何研究模型要想對現實世界產生影響，都需要現實世界的數據。”

平台的未來

Lyu 希望增強該平台的能力，不僅僅是發現人工智慧生成的內容，例如首先識別最有可能用於創建內容的人工智慧工具。他的團隊先前已經開發過此類工具。

呂說：“這將為縮小幕後黑手的範圍提供線索。”“知道某個媒體是合成的或被操縱的並不總是足夠的。我們需要知道它的幕後黑手以及他們的意圖是什麼。”

儘管檢測演算法前景廣闊，但他警告說，人類仍然可以發揮重要作用。雖然演算法可以偵測到人眼或耳朵永遠無法偵測到的操縱跡象，但人類對現實如何運作具有語義知識，而演算法通常不具備這種知識。

「我們不能僅僅依靠演算法或人類，」Lyu 說。“我們兩者都需要。”

這就是為什麼他希望 DeepFake-O-Meter 最終能夠培育出自己的線上社區，讓用戶能夠相互交流並幫助彼此弄清楚人工智慧生成的內容。

「我喜歡將其視為深度偽造賞金獵人的市場，」他說。“因為解決深度造假問題需要集體努力。”