ソフトウェアプロバイダーがヘルスケアAIボットをテスト
ソフトウェア設計者は専門的なテストを行っていますAI を活用したチャットボット医学的なアドバイスを提供したり、症状を診断したりすることはできますが、正確さについては疑問がたくさんあります。
この春、Googleは「AIの概要」機能を発表し、同社のチャットボットからの回答が健康関連のクエリなど一般的な検索結果の上に表示されるようになった。理論的には良いアイデアのように聞こえるかもしれませんが、このソフトウェアが提供する健康アドバイスに関しては問題がありました。
ボットがオンラインになった最初の週に、あるユーザーはこう言いました。Google AI が間違った判断をした、ガラガラヘビに噛まれた場合の対処法についてのおそらく致命的な情報。別の検索では、Google がビタミンやミネラルを摂取するために「1 日あたり少なくとも 1 つの小さな石」を食べることを推奨しているという結果が得られました。このアドバイスは風刺記事から引用されたものです。
Googleは、それ以来、概要に風刺やユーモアのサイトを含めることを制限し、拡散した検索結果の一部を削除したと述べている。
Googleの広報担当者はCBSニュースに対し、「AI概要の大部分は、ウェブ上でより深く掘り下げるためのリンクとともに、質の高い情報を提供している」と語った。「健康に関する質問については、専門家のアドバイスを求めることが重要であることを人々に思い出させる免責条項など、強力な品質と安全性のガードレールを常に導入してきました。私たちは、情報が正確であることを保証するために、AI 概要を表示するタイミングと方法を改良し続けてきました。高品質で信頼できる。」
CBS News Confidented は、これらの修正によってすべての健康上の誤った情報が防止されたわけではないことを発見しました。生後6か月未満の乳児への固形食品の導入に関する問い合わせは、6月下旬になっても依然として回答を返していた。によると、赤ちゃんは少なくとも生後6か月になるまで固形食品を食べ始めるべきではありません。アメリカ小児科学会.Â
デトックスやデトックスなどの疑わしいウェルネス トレンドの健康上の利点に関する検索生乳を飲む誤りが暴かれた主張も含まれていた。
癖や明らかな間違いにもかかわらず、多くの医療指導者は、AI チャットボットとそれが業界をどのように変えることができるかについて依然として楽観的であると述べています。
スタンフォード・ヘルスケアの首席データサイエンティスト、ニガム・シャー博士は「人々は必要な情報にアクセスするようになるだろう」と語った。「短期的には少し悲観的ですが、私たちは少し先を行っていると思います。しかし、長期的には、これらのテクノロジーは私たちに多くの利益をもたらしてくれると思います。」
チャットボットの他の支持者たちは、医師が常に正しく理解しているわけではないとすぐに指摘する。見積もりはさまざまですが、保健福祉省による調査2022 年からは、毎年救急外来を訪れる患者の 2% ほどが、医療提供者の誤診により危害を被る可能性があることが判明しました。
シャー氏は、チャットボットの使用を Google 自体の初期の頃と比較しました。
「Google検索が登場したとき、人々は自己診断をしてあらゆる地獄が解き放たれるのではないかとパニックになった。そんなことは起こらなかった」とシャー氏は語った。「同じこと。我々は、完全に形成されていない新しいものが間違いを犯し、そのうちのいくつかは悪いものになるであろう段階を経験することになるが、概して、他に選択肢がないときに情報を持つことは重要である」良いことだよ。」
世界保健機関は、AI の領域に足を踏み入れている企業の 1 つです。この組織のチャットボットであるサラは、WHO のサイトとその信頼できるパートナーから情報を引き出しているため、回答に事実誤認が生じにくくなっています。心臓発作のリスクを抑える方法を尋ねられたとき、サラはストレスを管理し、よく眠り、健康的なライフスタイルに焦点を当てることについて情報を提供しました。
設計と監視の継続的な進歩により、このようなボットは引き続き改善される可能性があります。
ただし、現在健康に関するアドバイスを求めて AI チャットボットを利用しようとしている場合は、Google のバージョンに付属する警告に注意してください。「情報の品質は異なる場合があります。」
ギャレット少佐はCBSニュースのワシントン特派員。彼は、政治、政策、ポップ カルチャーを毎週マルチプラットフォームで放送するインタビュー番組「The Takeout」の司会者でもあります。