/ 哥倫比亞廣播公司/美聯社
最近的深度造假引發了人們對人工智慧的新擔憂
泰勒絲 (Taylor Swift) 的色情 Deepfake 圖像在網路上流傳，使這位歌手成為最著名的受害者一個禍害技術平台和反濫用組織一直在努力解決這個問題。
史威夫特的露骨和辱罵性假圖片本週開始在社群媒體平台 X 上廣泛傳播。
她的“Swifties”熱心粉絲群迅速動員起來，在以前稱為 Twitter 的平台上發起反攻，並使用 #ProtectTaylorSwift 標籤，在社交媒體網站上發布更多這位流行歌星的正面形象。有些人表示，他們正在舉報分享深度假貨的帳號。
美國演員工會週五就這一問題發表了一份聲明，稱斯威夫特的圖像“令人不安、有害且令人深感擔憂”，並補充說“虛假圖像的開發和傳播——尤其是那些具有猥褻性質的圖像——沒有某人的同意必須被視為非法。
深度造假偵測組織 Reality Defender 表示，它追蹤到大量描繪 Swift 的未經同意的色情資料，尤其是在 X 上。
Reality Defender 的成長主管梅森·艾倫 (Mason Allen) 表示：“不幸的是，當其中一些被刪除時，它們已經傳播到了數以百萬計的用戶。”
研究人員發現了至少幾十張獨特的人工智慧產生的圖像。最廣泛分享的是與足球相關的內容，展示了塗滿油漆或血跡斑斑的斯威夫特，將她物化，在某些情況下，對她的深假角色造成了暴力傷害。
這是在本月早些時候發生的 AI 生成的視頻以史威夫特的肖像為標誌的假冒 Le Creuset 炊具贈品也在網路上流傳。目前尚不清楚該騙局的幕後黑手是誰，Le Creuset 向那些可能受騙的人致歉。
研究人員表示，明顯的深度偽造的數量已經長大了在過去的幾年裡，隨著用於生成此類圖像的技術變得更容易獲得和更容易使用。2019 年，人工智慧公司 DeepTrace Labs 發布的一份報告顯示，這些影像絕大多數都是針對女性的武器。據稱，大多數受害者是好萊塢演員和韓國流行歌手。
滾石樂隊的資深作家布列塔尼·斯帕諾斯（Brittany Spanos）在紐約大學教授斯威夫特的課程，她說斯威夫特的粉絲很快就會動員起來支持這位藝術家，尤其是那些非常認真地對待自己的粉絲以及在有不當行為的情況下的人。
「如果她真的向法庭提起訴訟，這可能是一件大事，」她說。
當聯繫到美聯社要求對斯威夫特的虛假圖片發表評論時，X 指示美聯社查看其安全帳戶上的一篇帖子，該帖子稱該公司嚴格禁止在其平台上分享未經同意的裸照。自從馬斯克 (Elon Musk) 於 2022 年接管該平台以來，該公司已大幅削減內容審核團隊。
該公司週五凌晨在 X 帖子中寫道：“我們的團隊正在積極刪除所有已識別的圖像，並對負責發布這些圖像的帳戶採取適當的行動。”“我們正在密切關注事態發展，以確保立即解決任何進一步的違規行為，並刪除相關內容。”
與此同時，Meta 在一份聲明中表示，它強烈譴責“不同網路服務中出現的內容”，並已努力將其刪除。
該公司表示：“我們將繼續監控我們平台上的違規內容，並將根據需要採取適當行動。”
斯威夫特的代表週五沒有立即回應置評請求。
艾倫表示，研究人員有 90% 的信心認為這些圖像是透過擴散模型創建的，擴散模型是一種生成人工智慧模型，可以根據書面提示產生新的逼真圖像。最廣為人知的是 Stable Diffusion、Midjourney 和 OpenAI 的 DALL-E。艾倫的團隊沒有試圖確定其來源。
提供部分基於 DALL-E 的映像產生器的微軟週五表示，正在調查其工具是否被濫用。就像其他商業人工智慧服務一樣，它表示不允許“成人或未經同意的親密內容，任何重複嘗試製作違反我們政策的內容都可能導致無法使用該服務。”
當被問及「NBC晚間新聞」中的Swift Deepfakes 問題時，微軟執行長Satya Nadella 週五表示，在設定人工智慧防護措施方面還有很多工作要做，「我們有必要在這方面快速採取行動。
納德拉說：“這絕對令人震驚和可怕，因此我們必須採取行動。”
Midjourney、OpenAI 和 Stable Diffusion 製造商 Stability AI 沒有立即回應置評請求。
聯邦立法者提出了更多限製或將深度偽造色情內容定為犯罪的法案，他們表示這起事件表明美國需要實施更好的保護措施。
紐約民主黨眾議員伊維特·D·克拉克(Yvette D. Clarke) 表示：「多年來，女性一直是未經同意的深度造假的受害者，因此泰勒·斯威夫特(Taylor Swift) 的遭遇比大多數人意識到的更為普遍。
另一位紐約民主黨眾議員喬·莫雷爾(Joe Morelle)正在推動一項法案，將在線分享深度偽造色情內容定為犯罪，他表示，斯威夫特身上發生的事情令人不安，並且在互聯網上變得越來越普遍。
莫雷爾在一份聲明中說：“這些圖像可能是假的，但它們的影響是非常真實的。”“在日益數位化的世界裡，深度造假事件每天都在發生在世界各地的女性身上，是時候制止它們了。”
感謝您閱讀哥倫比亞廣播公司新聞。
建立您的免費帳戶或登錄
了解更多功能。