Meta 的监督委员会周二表示，正在通过两起案件审查这家社交媒体巨头的深度造假色情政策。

这一举动被称为“元”最高法院就在内容审核争议发生几个月前，人工智能生成的巨星泰勒·斯威夫特 (Taylor Swift) 的淫秽图像在 X（前身为 Twitter）上广泛分享。

Meta 董事会在新闻稿中表示，选择了关于 Instagram 和 Facebook 上共享图像的两个案例，以“评估 Meta 的政策及其执行实践是否能有效解决人工智能生成的露骨图像”。

董事会可以就以下事项提出建议：社交媒体巨头的深度伪造色情政策，但真正做出改变取决于科技公司。

Meta 监督委员会受理的第一起案件涉及 Instagram 上发布的人工智能生成的裸体女性图像。

照片中的这名女子酷似印度的公众人物，引发了该国用户的投诉。

董事会表示，Meta 保留了该图像，但后来表示这样做是错误的。

第二个案例涉及一张发布在 Facebook 专门讨论人工智能创作的群组上的图片。

该委员会在一份新闻稿中表示，该图片描绘了一名类似“美国公众人物”的裸体女性，一名男子正在抚摸她的一个乳房。

该委员会没有透露这名女子的姓名，称该女子的身份是在相关合成图像的标题中找到的。

据该委员会称，Meta 以违反骚扰政策为由删除了该图片，发布该内容的用户对该决定提出了上诉。

人们被邀请发表评论，特别是关于深度伪造色情内容造成的危害的严重性以及它对公众人物女性造成的伤害。

名人的 Deepfake 色情图片并不新鲜，但活动人士和监管机构担心，采用生成式人工智能的易于使用的工具会产生大量无法控制的有毒或有害内容。

斯威夫特是世界上最受关注的艺术家之一，她最近的巡回演唱会将她推上了美国名气的顶峰，这一现象引起了人们的关注，她的大批歌迷对这一事态发展感到愤怒。

当被问及当时的照片时，白宫新闻秘书卡琳·让-皮埃尔说：“这令人震惊。”

让-皮埃尔补充道：“可悲的是，我们知道（科技平台）缺乏执行力对女性造成了不成比例的影响，同时也影响了女孩，她们是网络骚扰的主要目标。”

© 2024 法新社