法新社周四看到的一封公开信草稿显示，二十多个国际民间社会组织将呼吁大型科技公司加强人工智能政策，以打击困扰社交媒体平台的“性别歧视和厌恶女性”虚假信息。
致信首席执行官六大巨头——Meta、X、YouTube、TikTok、Snapchat 和 Reddit——紧随网络上未经同意的深度伪造色情内容以及廉价、广泛使用的人工智能工具带来的骚扰和诈骗的热潮。
这封信由包括 UltraViolet、GLAAD、全国妇女组织和 MyOwn Image 在内的 27 个数字和人权组织签署，“很明显，人们对这些伤害的感受并不相同。”
“具体来说，女性，跨性别者，而非二元性别的人尤其容易遭受社交媒体上基于人工智能的内容的不利影响。”
这些组织称这封信将于周五公开，信中提出了十多项加强人工智能政策的建议。
其中包括明确定义发布未经同意的露骨内容的后果（其中应包括对屡犯者进行暂停）、实施第三方工具来检测人工智能生成的视觉效果，并对此类内容进行清晰的标记。
这些团体还要求用户采用一致的程序来标记和报告有害内容，并要求平台对其人工智能政策进行全面的年度审计。
厌恶女性、性别歧视的攻击
这封信是在 11 月 5 日举行的美国首次人工智能选举前一个月发出的。在白宫的激烈竞争中，虚假信息层出不穷。
性别虚假信息的一个特定目标是民主党提名人卡马拉·哈里斯，其中包括大量厌恶女性和性别歧视的言论，攻击美国历史上第一位黑人、南亚裔和女性副总统。
“这些危害让我们在网上保持沉默，侵犯了我们控制自己形象的权利，并扭曲了我们的选举，”UltraViolet 的竞选总监珍娜·谢尔曼 (Jenna Sherman) 说。
“但更糟糕的是，他们标准化甚至通过算法编纂性剥削并强化关于性别、性取向和同意的有害陈规定型观念。”
专家表示，未经同意的深度伪造的扩散速度超过了全球监管该技术的速度，一些照片应用程序以数字方式脱掉女性的衣服，并操纵图像助长了“性勒索”诈骗。
虽然歌手泰勒·斯威夫特和女演员艾玛·沃特森等名人都是深度伪造色情内容的受害者，但专家表示，不在公众视野中的女性同样容易受到伤害。
签署这封信的组织之一、战略对话研究所的美国高级数字政策经理埃伦·雅各布斯 (Ellen Jacobs) 表示：“人工智能技术进一步促进了网上基于性别的骚扰和虐待行为的产生和传播。”
“我们需要有效的政策来专门解决妇女、女孩和 LGBTQ+ 人群面临的更高风险。”
在发布之前，这些平台没有立即回应置评请求。信。
社交媒体安全负责人 Leanna Garfield 表示：“世界上最大的平台已经表明，它们没有能力应对人工智能引发的仇恨、骚扰和虚假信息活动的兴起，包括可以大规模传播仇恨图像的深度造假和机器人。”GLAAD 项目经理。
这些平台“现在需要采取具体行动，让每个人都能在网上感到安全”。
© 2024 法新社
引文:民间社会团体要求针对“性别歧视”人工智能虚假信息采取行动（2024 年 10 月 4 日）检索日期：2024 年 10 月 4 日来自 https://techxplore.com/news/2024-10-civil-society-groups-demand-action.html
本文档受版权保护。除了出于私人学习或研究目的的任何公平交易外，不得未经书面许可，不得复制部分内容。所提供的内容仅供参考。