法新社週四看到的一封公開信草稿顯示，二十多個國際民間社會組織將呼籲大型科技公司加強人工智慧政策，以打擊困擾社群媒體平台的「性別歧視和厭惡女性」虛假訊息。

致信執行長六大巨頭——Meta、X、YouTube、TikTok、Snapchat 和 Reddit——緊隨網路上未經同意的深度偽造色情內容以及廉價、廣泛使用的人工智慧工具帶來的騷擾和詐騙的熱潮。

這封信由包括 UltraViolet、GLAAD、全國婦女組織和 MyOwn Image 在內的 27 個數字和人權組織簽署，“很明顯，人們對這些傷害的感受並不相同。”

“具體來說，女性，跨性別者，而非二元性別的人尤其容易遭受社交媒體上基於人工智慧的內容的不利影響。

這些組織稱這封信將於週五公開，信中提出了十多項加強人工智慧政策的建議。

其中包括明確定義發布未經同意的露骨內容的後果（其中應包括對重犯者進行暫停）、實施第三方工具來檢測人工智慧生成的視覺效果，並對此類內容進行清晰的標記。

這些團體也要求使用者採用一致的程序來標記和報告有害內容，並要求平台對其人工智慧政策進行全面的年度審計。

厭女、性別歧視的攻擊

這封信是在 11 月 5 日舉行的美國首次人工智慧選舉前一個月發出的。

性別假訊息的一個特定目標是民主黨提名人卡馬拉·哈里斯，其中包括大量厭惡女性和性別歧視的言論，攻擊美國歷史上第一位黑人、南亞裔和女性副總統。

「這些危害讓我們在網路上保持沉默，侵犯了我們控制自己形象的權利，並扭曲了我們的選舉，」UltraViolet 的競選總監珍娜·謝爾曼 (Jenna Sherman) 說。

「但更糟的是，他們標準化甚至透過演算法編纂性剝削並強化關於性別、性取向和同意的有害陳規定型觀念。

專家表示，未經同意的深度偽造的擴散速度超過了全球監管該技術的速度，一些照片應用程式以數位方式脫掉女性的衣服，並操縱圖像助長了「性勒索」詐騙。

雖然歌手泰勒絲和女星艾瑪華森等名人都是深度偽造色情內容的受害者，但專家表示，不在公眾視野中的女性也同樣容易受到傷害。

簽署這封信的組織之一、戰略對話研究所的美國高級數位政策經理艾倫·雅各布斯(Ellen Jacobs) 表示：「人工智慧技術進一步促進了網路上基於性別的騷擾和虐待行為的產生和傳播。

“我們需要有效的政策來專門解決婦女、女孩和 LGBTQ+ 人群面臨的更高風險。”

在發布之前，這些平台沒有立即回應置評請求。信。

社群媒體安全負責人 Leanna Garfield 表示：“世界上最大的平台已經表明，它們沒有能力應對人工智慧引發的仇恨、騷擾和虛假訊息活動的興起，包括可以大規模傳播仇恨圖像的深度造假和機器人。” GLAAD 專案經理。

這些平台「現在需要採取具體行動，讓每個人都能在網路上感到安全」。

© 2024 法新社