软件提供商测试医疗保健人工智能机器人
软件设计者正在专门进行测试人工智能驱动的聊天机器人可以提供医疗建议和诊断病情，但准确性方面存在很多问题。
今年春天，谷歌推出了一项“人工智能概述”功能，该功能中该公司聊天机器人的答案开始出现在典型搜索结果上方，包括与健康相关的查询。虽然理论上这听起来是个好主意，但该软件提供的健康建议存在一些问题。
一位用户表示，该机器人上线第一周谷歌人工智能给出了错误的结果，可能是有关如果被响尾蛇咬伤该怎么办的致命信息。另一项搜索的结果是，谷歌建议人们“每天至少吃一小块石头”来补充维生素和矿物质——建议来自一篇讽刺文章。
谷歌表示，他们已经限制在其概述中包含讽刺和幽默网站，并删除了一些病毒式传播的搜索结果。
谷歌发言人告诉哥伦比亚广播公司新闻：“绝大多数人工智能概述提供了高质量的信息，并提供了在网络上进行更深入挖掘的链接。”“对于健康查询，我们始终有强有力的质量和安全护栏，包括提醒人们寻求专家建议很重要的免责声明。我们不断完善显示人工智能概述的时间和方式，以确保信息高品质且可靠。”
哥伦比亚广播公司新闻证实发现，这些修复措施并没有阻止所有健康错误信息。六月下旬，有关向六个月以下婴儿添加固体食物的询问仍然返回了提示。根据该机构的说法，婴儿至少要到六个月大才可以开始吃固体食物。美国儿科学会。一个
搜索可疑的健康趋势（例如排毒或）对健康的益处喝生牛奶还包括被揭穿的说法。
尽管存在一些怪癖和彻头彻尾的错误，许多医疗保健领导者表示，他们对人工智能聊天机器人以及它们如何改变这个行业仍然持乐观态度。
“人们将获得他们需要的信息，”斯坦福医疗保健公司首席数据科学家 Nigam Shah 博士说。“从短期来看，我有点悲观，我认为我们有点超前了。但从长远来看，我认为这些技术会给我们带来很多好处。”
其他聊天机器人的拥护者很快指出，医生并不总是能做出正确的选择。估计有所不同，但卫生与公众服务部的研究研究发现，从 2022 年开始，每年前往急诊科就诊的患者中，有多达 2% 的患者可能因医疗保健提供者的误诊而受到伤害。
沙阿将聊天机器人的使用与谷歌本身的早期阶段进行了比较。
“当谷歌搜索出现时，人们感到恐慌，担心人们会进行自我诊断，一切都会崩溃。但这并没有发生，”沙阿说。“同样的事情。我们将经历这个阶段，未完全形成的新人会犯错误，其中一些会很糟糕，但总的来说，在没有其他选择的情况下掌握信息是一件好事。”
世界卫生组织是涉足人工智能领域的公司之一。该组织的聊天机器人 Sarah 从世界卫生组织网站及其值得信赖的合作伙伴中提取信息，从而使答案不易出现事实错误。当被问及如何限制心脏病发作的风险时，莎拉提供了有关控制压力、良好睡眠和注重健康生活方式的信息。
设计和监督方面的持续进步可能会继续改进此类机器人。
但如果你今天转向人工智能聊天机器人寻求健康建议，请注意谷歌版本附带的警告：“信息质量可能会有所不同。”
加勒特少校是哥伦比亚广播公司新闻驻华盛顿首席记者。他还是“The Takeout”的主持人，这是一档关于政治、政策和流行文化的每周多平台访谈节目。