AFPが木曜日に確認した公開書簡の草案によると、ソーシャルメディアプラットフォームを悩ませる「性差別的で女性蔑視的な」偽情報と闘うため、20以上の国際市民社会団体が大手ハイテク企業に対し、AI政策を強化するよう要請する予定だという。

への手紙最高経営責任者Meta、X、YouTube、TikTok、Snapchat、Reddit の 6 つの巨人のグループは、同意のないディープフェイク ポルノのオンライン ブームや、安価で広く入手可能な人工知能ツールによる嫌がらせや詐欺に追随しています。

「これらの被害が平等に感じられていないことは明らかだ」と書簡には述べられており、ウルトラヴァイオレット、GLAAD、全米女性機構、マイオウン・イメージなど27のデジタル・人権団体が署名している。

「特に女性は、トランスジェンダーの人たちそして、ノンバイナリーの人々は、ソーシャルメディア上の AI ベースのコンテンツの悪影響を経験する特有のリスクにさらされています。」

各団体が金曜日に公開すると発表したこの書簡には、AI政策を強化するための12項目の勧告が盛り込まれている。

これらには、同意のない露骨なコンテンツを投稿した場合の結果を明確に定義すること（再犯者の停止を含むべきである）、AI によって生成されたビジュアルを検出するサードパーティ ツールの実装、およびそのようなコンテンツの明確なラベル付けが含まれます。

同団体はまた、ユーザーが有害なコンテンツにフラグを立てて報告するための一貫した手順と、プラットフォームがAIポリシーの包括的な年次監査を実施することも要求した。

女性蔑視、性差別的な攻撃

この書簡は、米国初のAI選挙として広く噂される11月5日のわずか1カ月前に提出された。ホワイトハウスを巡る接戦では、偽情報が大量に流れ込んでいる。

ジェンダーに関する偽情報の特に標的となっているのは民主党候補者カマラ・ハリス氏で、その中には米国史上初の黒人、南アジア人、女性の副大統領を攻撃する女性蔑視や性差別的な言説が大量に含まれている。

ウルトラバイオレットのキャンペーンディレクター、ジェナ・シャーマン氏は「これらの危害はオンラインで私たちを沈黙させ、自分自身のイメージをコントロールする権利を侵害し、選挙を歪曲するものだ」と述べた。

「しかしさらに悪いことに、それらは正規化され、さらにはアルゴリズム的に成文化されてしまうのです」性的搾取そして、ジェンダー、セクシュアリティ、同意に関する有害な固定観念を強化します。」

専門家らによると、同意のないディープフェイクの蔓延は、この技術を世界的に規制する取り組みを上回っており、いくつかの写真アプリがデジタル的に女性の服を脱ぎ、加工された画像が「セクストーション」ラケットを煽っているという。

歌手のテイラー・スウィフトや女優のエマ・ワトソンなどの有名人もディープフェイクポルノの被害者となっているが、専門家らは、公の場にいない女性も同様に被害に遭っていると指摘している。

この書簡に署名した組織の一つである戦略対話研究所の米国デジタル政策上級マネージャー、エレン・ジェイコブズ氏は、「AIテクノロジーにより、オンラインでのジェンダーに基づく嫌がらせや虐待の創出と拡散がさらに促進されている」と述べた。

「女性、少女、LGBTQ+の人々に対するリスクの高まりに特に対処する効果的な政策が必要です。」

プラットフォーム側は公開前にコメントを求めたが、すぐには返答は得られなかった。手紙。

「世界最大のプラットフォームは、憎悪に基づく画像を大規模に吐き出すディープフェイクやボットを含む、AIが促進する憎悪、嫌がらせ、偽情報キャンペーンの増加に対処する能力が備わっていないことを示している」とソーシャルメディア安全担当のリアンナ・ガーフィールド氏は述べた。GLAADのプログラムマネージャー。

プラットフォームは「誰もがオンラインで安心できるよう、今すぐ具体的な行動を起こす必要がある」。

© 2024 AFP