軟體供應商測試醫療保健人工智慧機器人
軟體設計者正在專門進行測試人工智慧驅動的聊天機器人可以提供醫療建議和診斷病情，但準確性方面存在許多問題。
今年春天，Google推出了一項「人工智慧概述」功能，該功能中該公司聊天機器人的答案開始出現在典型搜尋結果上方，包括與健康相關的查詢。雖然理論上這聽起來是個好主意，但該軟體提供的健康建議存在一些問題。
一位用戶表示，機器人上線第一周谷歌人工智慧給出了錯誤的結果，可能是有關如果被響尾蛇咬傷該怎麼辦的致命訊息。另一項搜尋的結果是，谷歌建議人們「每天至少吃一小塊石頭」來補充維生素和礦物質——建議來自一篇諷刺文章。
谷歌表示，他們已經限制在其概述中包含諷刺和幽默網站，並刪除了一些病毒式傳播的搜尋結果。
谷歌發言人告訴哥倫比亞廣播公司新聞：“絕大多數人工智能概述提供了高品質的信息，並提供了在網絡上進行更深入挖掘的鏈接。”“對於健康查詢，我們始終有強有力的品質和安全護欄，包括提醒人們尋求專家建議很重要的免責聲明。我們不斷完善顯示人工智慧概述的時間和方式，以確保信息高品質且可靠。”
哥倫比亞廣播公司新聞證實發現，這些修復措施並沒有阻止所有健康錯誤訊息。六月下旬，有關向六個月以下嬰兒添加固體食物的詢問仍然返回了提示。根據該機構的說法，嬰兒至少要到六個月大才可以開始吃固體食物。美國兒科醫學會。
搜尋可疑的健康趨勢（例如排毒或）對健康的益處喝生牛奶還包括被揭穿的說法。
儘管存在一些怪癖和徹頭徹尾的錯誤，許多醫療保健領導者表示，他們對人工智慧聊天機器人以及它們如何改變這個行業仍然持樂觀態度。
「人們將獲得他們需要的信息，」史丹佛醫療保健公司首席數據科學家 Nigam Shah 博士說。“從短期來看，我有點悲觀，我認為我們有點超前了。但從長遠來看，我認為這些技術會給我們帶來很多好處。”
其他聊天機器人的擁護者很快指出，醫生並不總是能做出正確的選擇。估計有所不同，但衛生與公眾服務部的研究研究發現，從 2022 年開始，每年前往急診就診的患者中，有多達 2% 的患者可能因醫療保健提供者的誤診而受到傷害。
沙阿將聊天機器人的使用與Google本身的早期階段進行了比較。
「當谷歌搜尋出現時，人們感到恐慌，擔心人們會進行自我診斷，一切都會崩潰。但這並沒有發生，」沙阿說。「同樣的事情。我們將經歷這個階段，未完全形成的新人會犯錯誤，其中一些會很糟糕，但總的來說，在沒有其他選擇的情況下掌握信息是一件好事。”
世界衛生組織是涉足人工智慧領域的公司之一。該組織的聊天機器人 Sarah 從世界衛生組織網站及其值得信賴的合作夥伴中提取訊息，使答案不易出現事實錯誤。當被問及如何限制心臟病發作的風險時，莎拉提供了有關控制壓力、良好睡眠和注重健康生活方式的資訊。
設計和監督方面的持續進步可能會繼續改進此類機器人。
但如果你今天轉向人工智慧聊天機器人尋求健康建議，請注意谷歌版本附帶的警告：“資訊品質可能會有所不同。”
加勒特少校是哥倫比亞廣播公司新聞駐華盛頓首席記者。他也是「The Takeout」的主持人，這是一檔關於政治、政策和流行文化的每週多平台訪談節目。