2024 年 1 月 21 日，數量不詳的新罕布夏州選民接到了電話，電話聽起來像是總統喬拜登打來的。一個錄音中包含拜登的聲音敦促傾向支持拜登和民主黨的選民不要參加新罕布夏州1月23日舉行的共和黨初選。

「共和黨人一直在努力推動無黨派和民主黨選民參加初選。真是一派胡言亂語。當我們計票時，我們知道投票給民主黨的價值。重要的是，你要為11 月的選舉保留選票。我們會需要你的幫助來選舉民主黨人，這只會讓共和黨人在 11 月再次選舉唐納德·特朗普，而不是在周二。

電話錯誤地暗示登記的民主黨人可以在共和黨初選中投票，而在初選中投票的選民將沒有資格在 11 月的大選中投票。該州確實允許未登記選民參加共和黨或民主黨初選。

這次電話會議是在初選前兩天舉行的，似乎是人工智慧 Deepfake。似乎也曾試圖阻止投票。拜登是不在選票上由於民主黨全國委員會和新罕布夏州民主黨人就新罕布夏州在初選日程中的位置存在爭議，但有寫入活動對拜登來說。

選舉中的機器人電話並不是什麼新鮮事，也不違法。許多只是為了爭取選票而做出的努力。但它們也被用於壓制選民活動。在這種情況下，我認為應用人工智慧來克隆拜登的聲音使這個問題變得更加複雜。

在充滿噪音的媒體生態系統中，諸如深度偽造的機器人呼叫之類的混亂信號使得幾乎不可能辨別真假。

最近，網路上出現了一些公司提供模仿即服務。對於像你我這樣的用戶來說，這就像從菜單中選擇像喬·拜登、唐納德·特朗普或埃隆·馬斯克這樣的政客、名人或高管，然後輸入你希望他們所說的話的腳本，網站就會創造出深度偽造的內容。儘管音訊和視訊輸出通常是斷斷續續且生硬的，但當音訊透過自動呼叫傳遞時，它非常可信。您很容易認為自己正在聽到喬拜登的錄音，但實際上這是機器製造的錯誤訊息。

背景是關鍵

我是一個媒體與假資訊學者。2019年，資訊科學家英國巴黎和我研究生成對抗網路如何今天大多數人所認為的人工智慧將改變機構在判斷逼真的音訊和視訊操作時評估證據和決策的方式。我們發現，沒有哪一種媒體表面上是可靠的。相反，上下文對於做出解釋很重要。

本文轉載自對話根據知識共享許可。閱讀原創文章。