Meta 的監督委員會週二表示，正在透過兩起案件審查這家社群媒體巨頭的深度造假色情政策。

這一舉動被稱為“元”最高法院就在內容審核爭議發生幾個月前，人工智慧生成的巨星泰勒絲 (Taylor Swift) 的淫穢圖像在 X（前身為 Twitter）上廣泛分享。

Meta 董事會在新聞稿中表示，選擇了關於 Instagram 和 Facebook 上共享圖像的兩個案例，以「評估 Meta 的政策及其執行實踐是否能有效解決人工智慧生成的露骨圖像」。

董事會可就以下事項提出建議：社群媒體巨頭的深度偽造色情政策，但真正做出改變取決於科技公司。

Meta 監督委員會受理的第一起案件涉及 Instagram 上發布的人工智慧生成的裸體女性圖像。

照片中的女子酷似印度的公眾人物，引發了該國用戶的投訴。

董事會表示，Meta 保留了該圖像，但後來表示這樣做是錯誤的。

第二個案例涉及一張發佈在 Facebook 專門討論人工智慧創作的群組上的圖片。

該委員會在一份新聞稿中表示，該圖片描繪了一名類似「美國公眾人物」的裸體女性，一名男子正在撫摸她的一個乳房。

該委員會沒有透露這名女子的姓名，稱該女子的身份是在相關合成圖像的標題中找到的。

據該委員會稱，Meta 以違反騷擾政策為由刪除了該圖片，發布該內容的用戶對該決定提出了上訴。

人們被邀請發表評論，特別是關於深度偽造色情內容造成的危害的嚴重性以及它對公眾人物女性造成的傷害。

名人的 Deepfake 色情圖片並不新鮮，但活動人士和監管機構擔心，採用生成式人工智慧的易於使用的工具會產生大量無法控制的有毒或有害內容。

斯威夫特是世界上最受關注的藝術家之一，她最近的巡迴演唱會將她推上了美國名氣的頂峰，這一現象引起了人們的關注，她的大批歌迷對這一事態發展感到憤怒。

當被問及當時的照片時，白宮新聞秘書卡琳·讓-皮埃爾說：“這令人震驚。”

讓-皮埃爾補充說：“可悲的是，我們知道（科技平台）缺乏執行力對女性造成了不成比例的影響，同時也影響了女孩，她們是網絡騷擾的主要目標。”

© 2024 法新社