ジョンズ・ホプキンス大学が主導した新しい研究によると、チャットボットは限られた情報を共有し、イデオロギーを強化し、その結果、物議を醸す問題に関してはより二極化した考え方につながる可能性があるという。

この研究は、チャットボットが公平であるという認識に疑問を投げかけ、会話型検索システムの使用がどのようにホットボタンの問題に関する国民の溝を広げ、人々を操作されやすくするかについての洞察を提供します。

「人々はAIによって生成された概要の文章を読んでいるので、偏見のない、事実に基づいた答えが得られると思っているのです」と、筆頭著者であり、人間とAIの相互作用を研究しているジョンズ・ホプキンス大学コンピューターサイエンス助教授のZiang Xiao氏は言う。「チャットボットが偏見を持たれるように設計されていないとしても、その回答には質問者の偏見や傾向が反映されています。つまり、実際、人々は聞きたい答えを得ることができているのです。」

Xiao 氏と彼のチームは、研究結果を次の会議で共有します。Association of Computing Machinery のコンピューティング システムにおけるヒューマン ファクターに関する CHI カンファレンス午後5時に東部標準時間、5 月 13 日月曜日。

チャットボットがオンライン検索にどのような影響を与えるかを確認するために、チームは人々がさまざまな検索システムをどのように操作し、使用前後で物議を醸している問題についてどのように感じたかを比較しました。

研究者らは272人の参加者に、ヘルスケア、学生ローン、または聖域都市を検索し、チャットボットまたは研究用に構築された従来の検索エンジンを使用して、そのトピックに関する詳細情報をオンラインで検索します。

を考慮した上で、検索結果、参加者は2番目のエッセイを書き、トピックに関する質問に答えました。研究者らはまた、参加者に2つの対立する記事を読んでもらい、その情報をどの程度信頼するか、見解が極端だと思うかどうかについて質問した。

チャットボットは従来のウェブ検索よりも狭い範囲の情報を提供し、参加者の既存の態度を反映した回答を提供するため、チャットボットを使用した参加者は自分のオリジナルのアイデアにより集中するようになり、自分の見解に疑問を呈する情報に対してより強い反応を示した、と研究者らは発見した。

「人々は自分の視点と一致する情報を求める傾向があり、その行動が同じ考えの意見のエコーチェンバーに閉じ込められることがよくあります」とシャオ氏は言う。「このエコー チェンバー効果は、従来の Web 検索よりもチャットボットの方が強力であることがわかりました。」

エコーチェンバーは、参加者がチャットボットと対話する方法に部分的に起因するとシャオ氏は述べた。チャットボット ユーザーは、従来の検索エンジンのようにキーワードを入力するのではなく、「ユニバーサル ヘルスケアの利点は何ですか?」などの完全な質問を入力する傾向がありました。または「ユニバーサルのコストはいくらですか?」健康管理?」チャットボットは、メリットまたはコストのみを含む概要を返します。「チャットボットを使用すると、人々はより表現力豊かになり、より会話的な方法で質問を組み立てる傾向があります。それは私たちの話し方によって決まります」とシャオ氏は言う。

「しかし、私たちの言葉は私たちに対して使われる可能性があります。」

AI開発者はチャットボットを訓練して、質問から手がかりを抽出し、人々の偏見を特定できるとシャオ氏は述べた。チャットボットは、ユーザーが何を好むか、何が嫌いかを知ると、それに合わせて応答を調整できます。

実際、研究者らが人々の意見に同意するように設計された、隠れた議題を備えたチャットボットを作成したとき、エコー チェンバー効果はさらに強力でした。

エコーチェンバー効果に対抗するために、研究者らは参加者と意見が異なる回答を提供するようにチャットボットを訓練しました。人々の意見は変わらなかった、とシャオ氏は言う。研究者らはまた、チャットボット人々に事実確認を促すためにソース情報へのリンクを設定しましたが、そうした参加者はわずかでした。「AIベースのシステムの構築が容易になっていることを考えると、悪意のある者がAIを活用して社会をより二極化させる機会が生まれるだろう」とシャオ氏は述べた。

「常に相手側からの意見を提示するエージェントを作成するのが最も明白な介入ですが、それらが機能しないことがわかりました。」

著者には、ジョンズ・ホプキンス大学大学院生のニキル・シャルマ氏とマイクロソフトの主任研究員 Q. ヴェラ・リャオ氏が含まれます。