ほとんどの人は、オンラインでの誤った情報の拡散が深刻な問題であることに同意しています。しかし、それに対して何をすべきかについてのコンセンサスははるかに少ないです。

提案されているソリューションの多くは、次のことに焦点を当てています。ソーシャルメディアプラットフォームを防ぐために、ユーザーが投稿したコンテンツを管理できる、または管理する必要があります。誤報広がることから。

「しかし、このアプローチでは、重要な社会的決定が営利企業の手に委ねられます。これにより、ユーザーが誰を信頼するかを決定する能力が制限されます。そして、プラットフォームを管理することは、ユーザーが他のオンラインソースから遭遇する誤った情報と戦うためには何の役にも立ちません」と氏は言う。ファルナズ・ジャハンバフシュ SM '21、博士'23、現在スタンフォード大学の博士研究員です。

彼女とMIT教授のデビッド・カーガー氏は別の戦略を提案した。彼らは、個人が誤った情報にフラグを立て、オンライン コンテンツを評価するために信頼できる他の人を特定できるようにする Web ブラウザ拡張機能を構築しました。

Trustnet ブラウザ拡張機能と呼ばれる彼らの分散型アプローチは、何が誤情報であるかを決定する権限を中央当局ではなく個々のユーザーの手に委ねます。重要なのは、ユニバーサル ブラウザ拡張機能は、ソーシャル メディア サイトの投稿、ニュース アグリゲーターの記事、ストリーミング プラットフォームのビデオなど、あらゆる Web サイト上のあらゆるコンテンツに対して機能することです。

2週間の研究を通じて、研究者らは訓練を受けていない個人でもこのツールを使用して誤った情報を効果的に評価できることを発見した。参加者は、コンテンツを評価する能力があり、信頼できる他の人からの評価を見ることができ、コンテンツについて批判的に考えるのに役立ったと述べました。

「今日の世界では、悪意のある者が、正確で、情報源が豊富で、慎重に議論されているように見える誤った情報を無制限に作成することは簡単です。この洪水から身を守る唯一の方法は、信頼できる情報源によって検証された情報に頼ることです。トラストネットは、その未来がどのようなものになるのかというビジョンを示しています」とカーガー氏は言います。

ジャハンバフシュ氏は在学中にこの研究を行った。電気工学MIT のコンピュータ サイエンス (EECS) 大学院生である Karger 氏と、EECS の教授でコンピュータ サイエンスおよび人工知能研究所 (CSAIL) のメンバーでもある Karger 氏は、今週開催されるヒューマン ファクターに関する ACM 会議で発表された論文の中で、彼らの研究結果について詳しく述べています。コンピューティング システム (カイ 2024）。の研究も利用可能ですarXivプレプリントサーバー。

誤った情報との戦い

この新しい論文は、彼らの論文に基づいて構築されています。以前の仕事オンラインの誤った情報との戦いについて。研究者らは、Trustnet と呼ばれるソーシャル メディア プラットフォームを構築しました。これにより、ユーザーはコンテンツの正確性を評価し、評価を確認したい信頼できるユーザーを指定できるようになりました。

しかし現実の世界では、特にすでに他のプラットフォームに友人やフォロワーがいる場合、新しいソーシャル メディア プラットフォームに移行する人はほとんどいないでしょう。一方で、ソーシャルメディア企業にユーザーにコンテンツを評価する能力を与えるよう要求することは、法整備が必要となる可能性もある困難な戦いとなるだろう。たとえ規制があったとしても、ウェブ上の他の場所での誤った情報を阻止することはほとんどできません。

代わりに、研究者らはプラットフォームに依存しないソリューションを模索し、Trustnet ブラウザー拡張機能を構築することになりました。

拡張機能ユーザーはボタンをクリックしてコンテンツを評価します。サイド パネルが開き、コンテンツに正確、不正確、または正確性に疑問を示すラベルが付けられます。付随のテキスト ボックスで詳細を提供したり、その根拠を説明したりできます。

ユーザーは、評価を提供するために信頼できる他の人を特定することもできます。その後、ユーザーがこれらの信頼できるソースからの評価を含む Web サイトにアクセスすると、サイド パネルが自動的にポップアップして表示されます。

さらに、ユーザーは、信頼できる評価者を超えて他の人をフォローすることを選択できます。ユーザーは、フォローしているユーザーからのコンテンツ評価をケースバイケースで確認することを選択できます。また、サイド パネルを使用して、コンテンツの正確性に関する質問に回答することもできます。

「しかし、ウェブ上で私たちが遭遇するほとんどのコンテンツは、ソーシャル メディア フィードに埋め込まれているか、ニュース ウェブサイトのフロント ページなどのアグリゲーター ページにリンクとして表示されています。さらに、これまでの研究からわかっていることは、ユーザーは通常、共有しているリンクをクリックすることさえありません」とジャハンバクシュ氏は言います。

これらの問題を回避するために、研究者らは、ユーザーが読んでいるページ上のすべてのリンクをチェックする Trustnet 拡張機能を設計しました。信頼できる情報源がリンクされたページのコンテンツを評価した場合、拡張機能はそれらのリンクの隣にインジケーターを配置し、不正確と思われるコンテンツへのリンクのテキストをフェード表示します。

研究者たちが直面した最大の技術的課題の 1 つは、リンクは通常複数のリダイレクトを経由するため、リンク チェック機能を有効にすることでした。また、さまざまなユーザーに適したデザインを決定することも求められました。

異なる評価

個人が Trustnet 拡張機能をどのように利用するかを確認するために、32 人の個人に 1 日あたり 2 つのコンテンツを評価するという課題を課した 2 週間の調査を実施しました。

研究者らは、住宅改善のヒントや有名人のゴシップなど、訓練を受けていないユーザーが評価することを選択したコンテンツが、ニュース記事などの専門家が評価するコンテンツとは異なることが多いことに驚きました。ユーザーはまた、医師に医療内容を評価してもらったり、移民に外交関連の内容を評価してもらったりするなど、プロのファクトチェッカーではない人々からの評価を重視すると述べた。

「これは、ユーザーが何を必要としているのか、ユーザーが評価することが重要だと考えているコンテンツの種類が、ユーザーに配信されているものと正確に一致していないことを示していると思います。分散型アプローチはより拡張性が高いため、より多くのコンテンツを評価できる可能性があります」とジャハンバクシュ氏は言う。

ただし、誰を信頼するかをユーザーに選択させると、ユーザーが自分自身のバブルに閉じ込められ、自分の意見に同意するコンテンツしか表示されなくなる可能性があると研究者らは警告しています。

この問題は、より構造化された方法で信頼関係を特定することによって、おそらく FDA などの特定の信頼できる評価機関に従うことをユーザーに提案することによって軽減される可能性があります。

将来的には、ジャハンバフシュ氏は、構造化された信頼関係と、誤った情報との戦いを分散化することの広範な影響についてさらに研究したいと考えています。彼女はまた、この枠組みを誤った情報以外にも拡張したいと考えています。たとえば、このツールを使用して、特定の保護されたグループに共感しないコンテンツを除外することができます。

「個人ではコンテンツを評価できないと考える人もいるため、分散型アプローチにはあまり注目が集まっていません」と彼女は言います。「私たちの研究は、それが真実ではないことを示しました。しかし、ユーザー自分たちだけで物事を解決するために無力なままにすべきではありません。私たちは彼らがファクトチェックを利用できるようにすることができますが、それは彼らが見たいコンテンツを選択できる方法です。」

この記事は MIT ニュースのご厚意により再掲載されています (web.mit.edu/ニュースオフィス/) は、MIT の研究、イノベーション、教育に関するニュースを扱う人気のサイトです。