/ CBS/AP
最近のディープフェイクにより、AI に関する新たな懸念が生じています
テイラー・スウィフトのポルノディープフェイク画像がネット上に出回っており、テイラー・スウィフトが最も有名な被害者となっている。災難テクノロジープラットフォームと不正行為防止団体はこの問題を解決するのに苦労している。
今週、ソーシャルメディアプラットフォームX上で、スウィフトの性的に露骨で虐待的な偽画像が広く出回り始めた。
彼女の「スウィフティーズ」の熱烈なファン層はすぐに動員され、以前はツイッターとして知られていたプラットフォームで反撃を開始し、#ProtectTaylorSwift ハッシュタグを付けて、ポップスターのよりポジティブなイメージをソーシャルメディアサイトに溢れさせました。ディープフェイクを共有しているアカウントを報告していると言う人もいた。
映画俳優組合は金曜日、この問題に関して声明を発表し、スウィフトの画像は「動揺させ、有害で、非常に憂慮すべきもの」であるとし、「偽の画像、特にわいせつな性質の画像の開発と配布は、許可なく行われている」と付け加えた。誰かの同意は違法とされなければならない。」
ディープフェイク検出団体のリアリティ・ディフェンダーは、特にXでスウィフトを描いた同意のないポルノ素材の氾濫を追跡したと発表した。一部の画像はメタ所有のフェイスブックやその他のソーシャルメディアプラットフォームにも流出した。
「残念なことに、一部が削除されるまでに、それらは何百万ものユーザーに拡散しました」と、Reality Defender の成長責任者であるメイソン・アレン氏は述べています。
研究者らは、AI が生成したユニークな画像を少なくとも数十枚発見しました。最も広くシェアされたのはサッカー関連で、ペイントや血まみれのスウィフトを物体化し、場合によってはディープフェイクのペルソナに暴力的な危害を加えたものであった。
これは今月初め以降に行われます AIが生成したビデオ偽物のル・クルーゼ調理器具のプレゼントを支持するスウィフトの肖像画もネット上で話題になりました。この詐欺の背後に誰がいたのかは不明であり、ル・クルーゼは騙された可能性のある人々に謝罪を発表した。
研究者らによると、露骨なディープフェイクの数は成長しました過去数年間で、そのような画像を作成するために使用されるテクノロジーがよりアクセスしやすく、使いやすくなりました。2019年にAI企業DeepTrace Labsが発表した報告書では、これらの画像が圧倒的に女性に対する武器として利用されていることが示された。被害者のほとんどはハリウッド俳優と韓国のK-POP歌手だったという。
ローリングストーン誌のシニアライターで、ニューヨーク大学でスウィフトに関するコースを教えているブリタニー・スパノス氏は、スウィフトのファン、特に自分たちのファンダムを非常に真剣に受け止め、不正行為が行われている状況にあるファンはすぐにアーティストを支援しようと結集する、と語る。
「もし彼女が本当に法廷に訴えたら、これは大変な事になるかもしれない」と彼女は言った。
スウィフトの偽画像についてコメントを求められた際、XはAP通信に対し、同社がプラットフォーム上で同意のないヌード画像の共有を厳しく禁止しているとする同社の安全アカウントからの投稿を誘導した。同社はイーロン・マスク氏が2022年にプラットフォームを引き継いで以来、コンテンツ管理チームを大幅に削減した。
「当社のチームは、特定されたすべての画像を積極的に削除し、それらを投稿したアカウントに対して適切な措置を講じています」と同社は金曜日早朝のXポストに書いた。「さらなる違反があれば直ちに対処し、コンテンツが削除されるよう、状況を注意深く監視しています。」
一方、メタ社は声明で「さまざまなインターネットサービスにまたがって出現したコンテンツ」を強く非難し、削除に取り組んだと述べた。
同社は「当社は引き続きプラットフォームでこの違反コンテンツがないか監視しており、必要に応じて適切な措置を講じる」と述べた。
スウィフトの代理人は金曜日にコメントを求めたが、すぐには返答はなかった。
アレン氏は、研究者らはこれらの画像が拡散モデルによって作成されたと確信していると述べた。拡散モデルとは、書かれたプロンプトから新しくフォトリアリスティックな画像を生成できる生成人工知能モデルの一種である。最も広く知られているのは、Stable Diffusion、Midjourney、OpenAI の DALL-E です。アレン氏のグループは出所を特定しようとはしなかった。
DALL-Eを一部ベースにした画像生成ソフトを提供するMicrosoftは金曜日、自社ツールが悪用されたかどうか調査中であると発表した。他の商用AIサービスと同様に、「アダルトコンテンツや同意のない親密なコンテンツ、また当社のポリシーに反するコンテンツの作成を繰り返し試みると、サービスへのアクセスが失われる可能性がある」と同社は述べた。
Microsoftの最高経営責任者（CEO）サティア・ナデラ氏は金曜日、「NBCナイトリーニュース」でSwiftのディープフェイクについて質問され、AI保護策の設定にはまだやるべきことが多く、「これについては迅速に取り組む義務がある」と述べた。
「間違いなく、これは憂慮すべき恐ろしいことです。ですから、そうです、私たちは行動しなければなりません」とナデラ氏は語った。
Midjourney、OpenAI、Stable DiffusionメーカーのStability AIはコメント要請に応じていない。
ディープフェイクポルノをより多くの制限を課したり犯罪化する法案を提出した連邦議員らは、この事件はなぜ米国がより良い保護を導入する必要があるのかを示していると指摘した。
「何年もの間、女性は同意のないディープフェイクの被害者であり、テイラー・スウィフトに起こったことは、ほとんどの人が思っているよりも一般的なことだ」と、クリエイターに義務付ける法案を提出したニューヨーク州選出の民主党下院議員イベット・D・クラーク氏は語る。ディープフェイクコンテンツにデジタル透かしを入れるため。
ディープフェイクポルノのオンライン共有を犯罪とする法案を推進しているもう一人のニューヨーク民主党員ジョー・モレル下院議員は、スウィフトに起こったことは憂慮すべきことであり、インターネット全体にますます蔓延していると述べた。
「画像は偽物かもしれないが、その影響は非常に現実的だ」とモレル氏は声明で述べた。「デジタル化が進む世界では、ディープフェイクが毎日世界中の女性に起こっており、これを阻止する時期が来ています。」
CBSニュースをお読みいただきありがとうございます。
無料アカウントを作成するか、ログインしてください
さらに多くの機能については。