新しい方針では「差別、隔離、排除を正当化する目的で、あるグループが優れていると主張する動画」が禁止されると同社はブログ投稿で述べた。

禁止措置は、コネチカット州サンディフック小学校での銃乱射事件のような暴力事件が起きたことを否定する動画も対象となる。

YouTubeは禁止される具体的なチャンネルや動画には言及しなかった。

「それを保護し、憎しみ、嫌がらせ、差別、暴力を扇動するために当社のプラットフォームが使用されるのを防ぐのが当社の責任です」と同社はブログ投稿で述べた。

Google傘下のYouTubeによる今回の決定は、サイト上でのヘイトスピーチや偽情報の拡散を阻止するためのシリコンバレーの企業による最新の措置となる。1か月前、Facebookは陰謀論者でInfoWars創設者のアレックス・ジョーンズを含む、最も物議を醸したユーザー7人を追放した。ツイッター社は昨年ジョーンズ氏を禁止した。

両社は、憎悪に満ちた虚偽のコンテンツの拡散に対する対応が遅れたことで、激しい批判にさらされている。同時に、トランプ大統領などは、巨大テクノロジープラットフォームが右派の意見を検閲しており、企業が導入した新たな政策がこうした議論を煽っていると主張している。

この緊張は火曜日、YouTubeの動画で人種的言葉や同性愛嫌悪の中傷を使ってジャーナリストに嫌がらせをした著名な右翼クリエイターがポリシーに違反していないとYouTubeが発表したことからも明らかだった。この決定はネット上で大炎上を引き起こし、YouTubeが一部の人気クリエイターに無料パスを与えているとの非難が巻き起こった。

そのクリエイターであるスティーブン・クラウダー氏は、ビデオの中で、約400万人のYouTube登録者を持つ保守系コメンテーターであり、Voxのジャーナリストであるカルロス・マザ氏を繰り返し侮辱した。クラウダー氏はマザ氏のキューバ系アメリカ人の民族性や性的指向について中傷した。クラウダー氏は、自分のコメントは無害であり、YouTubeは規則に違反していないと判断したと述べた。

YouTubeはクラウダー氏に対する決定についての声明で、「意見は非常に攻撃的なものになる可能性があるが、当社のポリシーに違反しない限り、当社のサイトに残り続ける」と述べた。

一連の決定は、ソーシャルメディア企業のモデレーション問題を定義づけてきた中心的テーマを示している。それは、ルールを作ることは、多くの場合、ルールを強制するよりも簡単であるというものだ。

「これは重要で、長年待ち望まれていた変更です」と非営利団体データ＆ソサエティの研究員ベッカ・ルイス氏はこの新しい方針について語った。「ただし、YouTube はコミュニティ ガイドラインの実施が不均等であることが多いため、これらの更新がどの程度効果があるかはまだわかりません。」

YouTube の規模は、毎分 500 時間以上の新しいビデオがアップロードされているため、同社がルール違反を追跡することが困難になっています。そして、過激な動画の管理に対する同社の歴史的に緩いアプローチが、同サイトが子供たちに不穏な動画を宣伝し、そのプラットフォーム上で過激派グループの組織化を許しているという告発を含む、スキャンダルの連続を引き起こした。YouTube の自動広告システムは、攻撃的な動画と大手企業の広告を組み合わせており、複数の広告主サイトを放棄すること。

YouTubeの新たなヘイトスピーチポリシーで禁止されるコンテンツには、ユダヤ人が秘密裏に世界を支配していると主張する動画や、女性は男性より知的に劣っているため特定の権利を否定されるべきだと主張する動画、あるいは白人差別を示唆する動画などが含まれる。YouTubeの広報担当者は、人種は他の人種よりも優れていると述べた。

一部の嫌がらせコンテンツを投稿しても、動画の大部分が YouTube のルールに違反していないチャンネルは、YouTube の 3 ストライク強制システムに基づいてストライキを受ける可能性がありますが、すぐに禁止されるわけではありません。

同社はまた、「ヘイトスピーチに関するポリシーに繰り返し違反している」ものの、完全に違反していないチャンネルは、チャンネル所有者がコンテンツを共有できる YouTube の広告プログラムから削除されると述べた。動画が生み出す広告収入。

YouTubeは、ヘイトスピーチの規制を強化することに加えて、ユーザーの興味や過去の視聴習慣に基づいて動画を表示する自動ソフトウェアである推奨アルゴリズムも調整すると発表した。このアルゴリズムは YouTube で費やされる全体時間の 70% 以上を占めており、プラットフォームの成長の主要な原動力となっています。しかし同時に、ユーザーの監視を続けてサイトの利用数を増加させようとして、極端で意見を対立させるコンテンツが満載のうさぎの穴にユーザーを誘導しているという非難も集めています。

公民権非営利団体カラー・オブ・チェンジの代表ラシャド・ロビンソン氏は、「憎悪と不寛容と至上主義が一致するなら、YouTubeはより軽い流動性を持つ」と語った。「YouTube やその他のプラットフォームは、憎悪を奨励するために作り上げた構造に対処するのが非常に遅れています。」

批判に応えて、YouTubeは1月、9.11陰謀論やワクチンの誤った情報など、同社が「境界線のコンテンツ」と呼ぶカテゴリーの不快な動画の推奨を減らすと発表した。YouTubeの広報担当者は火曜日に述べた。アルゴリズムの変更により、米国ではそのような動画への推奨が 50% 減少したとのこと。同氏は、YouTubeがどの動画を「限界」と判断したかについての具体的なデータを共有することを拒否した。

「当社のシステムは、どのような種類の動画にこの処理を適用すべきかについてもより賢くなっており、今後はさらに境界線に近い動画にも適用できるようになるでしょう」と同社のブログ投稿では述べられている。

他のソーシャルメディア企業は、白人至上主義のコンテンツを許可したとして批判にさらされている。フェイスブックは最近、陰謀論ウェブサイト「インフォウォーズ」の寄稿者ポール・ジョセフ・ワトソン氏や極右活動家のローラ・ルーマー氏など、多数のアカウントを禁止した。Twitterは暴力的過激派グループを禁止しているが、そのメンバーの一部が個人アカウントを維持することを認めている。例えば、クー・クラックス・クランは昨年8月にTwitterから追放されたが、その元リーダーであるデビッド・デューク氏はサービスを継続している。ツイッターは現在、勉強するコンテンツの削除がオンラインの過激化の流れを食い止めるのに効果的かどうか。ツイッターの広報担当者はこの研究についてのコメントを控えた。

Twitterのとき禁止された昨年、陰謀論者のアレックス・ジョーンズ氏に対して、ジョーンズ氏はプラットフォームの決定を非難し、支持者からの寄付を募る一連の動画で対抗した。

ハーバード大学のテクノロジーと社会変革研究プロジェクトのディレクターであるジョーン・ドノバン氏は、YouTubeによる白人至上主義者の禁止は同様の怒りと不満の連鎖を引き起こす可能性があると述べた。同氏は、今回の禁止は「コンテンツ制作者がメディアの注目を集める機会となるため、特に不誠実なアップロードが見られる可能性がある」と述べた。

「削除されたコンテンツがさまざまなプラットフォームでどの程度増幅され、第二の人生を歩むことになるのだろうか?」とドノバンさんは付け加えた。