下院情報委員会は、いわゆる「」と呼ばれる脅威について専門家から意見を聞いた。ディープフェイク「ビデオや人工知能によって生成された他のタイプの合成データは、米国の選挙制度と国家安全保障全般に影響を及ぼしている。木曜日の公聴会の証人には、メリーランド大学、バッファロー大学の教授、およびAIとデジタル政策の他の専門家が含まれていた。」 

同委員会は声明で、「AIを利用した偽コンテンツがもたらす国家安全保障の脅威、それを検出して対抗するために何ができるか、公共部門、民間部門、社会全体がどのような役割を果たしているかを調査する」ことを目的としていると述べている。潜在的に厳しい『ポスト真実』の未来に対抗するためにプレーすべきだ」と木曜日の公聴会で述べた。 

この公聴会は、著名人がこれまで言っていなかったことを言っているように見えるインターネットビデオが増加する傾向の中で行われた。 

最近、ナンシー・ペロシ下院議長の改ざんされたビデオ彼女が障害を持っていると思われる作品がソーシャルメディア上で話題になった。この動画は、トランプ大統領がペロシ氏の発言パターンと公職適性を軽視する目的で共有した後、フェイスブックで250万回以上の再生回数を記録した。共和党と民主党は現在、これらの操作されたビデオが米国や他の西側民主主義国に対する偽情報戦争の最新兵器になるのではないかと懸念している。

同委員会は声明で、「ディープフェイクは国家安全保障と民主的統治について深刻な疑問を引き起こしており、個人や有権者はもはや画面に映るものの信頼性を判断する際に自分の目や耳を信頼できなくなっている」と述べた。 

委員会委員長のアダム・シフ下院議員は冒頭の挨拶で、操作されたビデオの拡散は2020年の大統領選挙に「悪夢のような」シナリオをもたらしており、議員、報道機関、国民は「何が真実で何が真実なのかを見極めるのに苦労している」と述べた。偽物。"

シフ氏は「ソーシャルメディア企業は、ウイルス性のディープフェイクが2020年の選挙を汚した後の2021年ではなく、今こそユーザーを誤った情報から守る政策を導入すべきだ。その時には手遅れになるだろう」と主張した。

公聴会のハイライト:

専門家: ディープフェイクを倒すための「特効薬」はない

メリーランド大学フランシス・キング・キャリー法科大学院のダニエル・シトロン法学教授は、ディープフェイクの拡散を阻止する限定的な方法はないが、解決には「法律、市場、社会の回復力」の組み合わせが必要だと証言した。 

「しかし、法律にはささやかな役割がある」とシトロン氏は認めた。同氏は、民事訴訟の被害者はビデオによる名誉毀損や精神的苦痛を理由に訴訟を起こすことができると説明したが、「訴訟には信じられないほどの費用がかかり、刑法では私たちが押し出す手段が少なすぎる」とも付け加えた。

専門家は「危険な」仮説を提示 

「私たちは自分の目や耳が伝えることを信じる傾向があります...ビデオは直感的です...それが卑劣であればあるほど、私たちはそれをより喜んで伝えます。企業全体がクリックして共有することを目的としています。」とシトロン氏は証言した。彼女は、ポルノ素材や新規株式公開など、ディープフェイクが有害な方法で使用される可能性があるいくつかの仮定の状況を提示しました。 

「株式公開の前夜に…企業のCEOを映すディープフェイクが…IPOを覆す可能性がある。市場はそれに反応し、私たちが嘘を暴くよりもはるかに速く下落するだろう」と彼女は示唆した。 

専門家、議員はソーシャルメディア企業と協力すべきだと語る

外交政策研究所のクリント・ワッツ氏は、政治家はオンラインで共有されるディープフェイク動画に含まれる「中傷」に迅速に反論するよう努める必要があると述べた。同氏は、それはソーシャルメディア企業との「パートナーシップ」で実現できると指摘した。ワッツ氏はまた、2016年のロシアによる干渉作戦を受けて同様に、政府がトロール農場周辺に厳しい制裁を課す取り組みを続けていると示唆した。 

「GRUの起訴状を見ると、彼らは本質的に制裁され、排除されていることがわかった」とワッツ氏は語った。同氏は、トロールファームに関与しているハッカーや企業は、米国政府に起訴された後、標的となった企業に雇用されることを望んでいないのではないかと示唆した。制裁は事実上、それぞれの企業での雇用を断るのに役立っている。 

専門家がディープフェイクの「瞬間的な」性質の危険性を警告

「嘘は真実が軌道に乗る前に地球を半周することがあるが、それは本当だ」とニューヨーク大学エンパイア・イノベーション教授であり、バッファロー大学人工知能研究所所長のデイビッド・ドーマン氏は証言した。 

「個人的には、その理由がわかりません。ニュースではライブ形式の遅延が発生します。物事が瞬時に行われなければならない理由はありません。ソーシャルメディアは、遅延させるためにこのような種類の情報を植え付ける必要があります。」と彼は示唆しました。ドーマン氏はさらに続けました、同氏は、ソーシャルメディア企業が検証可能な音声とビデオをリンクし、「マルウェアやサイバー問題の場合と同じように」それぞれのサイトから削除するかどうかを決定するために使用できるツールがあると述べた。

「私たちは玄関ドアを守っています」と彼は言いました。 

ディープフェイクに関して 2020 年のキャンペーンで何ができるでしょうか?

専門家らは、大統領候補者とそれぞれの陣営がソーシャルメディア企業と連携して、誤った情報に関する「統一基準」を策定する必要があると証言した。 

「過激主義や偽情報に協力するよう業界に圧力をかけている――この問題に対処するために迅速な対応が必要だ。対応に何らかの遅れがあると、その陰謀が拡大することになる。早く対処すればするほど、主流メディアやその他の関係者はより良い対応ができる」助けてもらえるよ」とワッツ氏は主張した。 

シトロン氏もこれに同意し、キャンペーン期間中ディープフェイクを拡散したり共有したりしないという「約束」をし、オンライン上のあらゆる誤った情報に直接反論するためにソーシャルメディア企業とより良い関係を築く必要があると述べた。 

同氏は、消費者と有権者は「ニヒルにならずに懐疑的になる」ことを学ぶ必要があると述べた。

ディープフェイクや偽情報による長期的な「腐食」効果 

専門家らは全員、ディープフェイクの使用が政治だけでなく社会、つまりジャーナリズムに深刻な影響を与えることに同意した。OpenAIのポリシーディレクター、ジャック・クラーク氏は、報道が事実上不正確であることを国民に納得させようとする操作が行われているため、これはニュースメディアに対する「隠れた脅威」であると述べた。 

シトロン氏もこれに同意し、ディープフェイクの虚偽を暴くのは難しいため、ジャーナリストがフェイクであることを恐れて証拠や報道を黙視する可能性があると述べた。彼女はこれを「オンライン荒らしによる腐敗的な取り組み」を、ジャーナリズムやメディアを含むあらゆるものに影響を与える「真実の衰退」と呼んだ。 

一方、ワッツ氏は、時間が経つにつれて、偽情報やディープフェイクの使用が「長期的な無関心」につながる可能性があると警告した。

「時間が経つにつれて事実とフィクションの区別がつかなくなると、彼らはすべてを信じるか、まったく信じなくなるでしょう」とワッツ氏は言う。同氏はロシア政府と国民の関係を指摘し、クレムリンは世論をコントロールするために「虚偽の消火ホース」を使っていると述べた。 

Emily Tillett と Olivia Gazis によるレポート