Metaの監視委員会は火曜日、2つの事件のレンズを通して、ソーシャルメディア大手のディープフェイクポルノ政策を精査していると発表した。

いわゆる「メタ」による動き最高裁判所コンテンツモデレーションに関する論争は、AIが生成した大スター、テイラー・スウィフトの卑猥な画像がX（旧Twitter）上で広く共有されたわずか数カ月後に起きた。

Meta委員会は、「露骨なAI生成画像への対処においてMetaのポリシーと執行慣行が効果的であるかどうかを評価する」ために、InstagramとFacebookで共有された画像に関する2件の訴訟を取り上げたとリリース文で述べた。

取締役会は以下に関する勧告を行うことができます。ソーシャルメディアジャイアントのディープフェイクポルノポリシーは正しいが、実際に変更を加えるかどうかはテクノロジー企業次第だ。

メタ監視委員会が取り上げた最初の事件は、インスタグラムに投稿されたAIが生成したヌード女性の画像に関するものだった。

写真の女性はインドの公人に似ており、同国のユーザーから苦情が起きた。

委員会によると、メタ氏は画像を掲載したままにしていたが、後に誤って掲載したと述べたという。

2 番目のケースには、AI 創作を専門とする Facebook グループに投稿された写真が含まれます。

委員会のリリースによると、その画像には「アメリカの公人」に似た裸の女性が男性に胸の片方をまさぐられている様子が描かれていたという。

委員会は女性の名前は明らかにしていないが、問題の合成画像のキャプションに女性の名前が記載されていると述べた。

同委員会によると、メタ社はハラスメントポリシーに違反したとして画像を削除し、コンテンツを投稿したユーザーはこの決定に対して異議を申し立てた。

特にディープフェイクポルノによってもたらされる害の重大さと、それが公人である女性に与える害について、人々がコメントを提出するよう求められた。

有名人のディープフェイクポルノ画像は新しいものではないが、活動家や規制当局は、生成AIを採用した使いやすいツールが有害なコンテンツや有害なコンテンツの制御不能な洪水を生み出すことを懸念している。

最新のコンサートツアーで彼女を米国の名声の頂点に押し上げた、世界トップストリーミングアーティストの一人であるスウィフトがターゲットになったことは、この現象にスポットライトを当て、彼女の大勢のファンがこの展開に激怒した。

ホワイトハウス報道官のカリーヌ・ジャンピエール氏は当時の画像について問われ、「憂慮すべきことだ」と述べた。

「悲しいことに、（テクノロジープラットフォームによる）強制力の欠如が女性に不釣り合いな影響を与えており、オンラインハラスメントの圧倒的なターゲットである少女たちにも影響を与えていることを私たちは知っています」とジャンピエール氏は付け加えた。

© 2024 AFP