Proveedores de software prueban robots de inteligencia artificial para el sector sanitario
Los diseñadores de software están realizando pruebas especializadas.Chatbots impulsados por IAque puede brindar asesoramiento médico y diagnosticar afecciones, pero abundan las preguntas sobre su precisión.
Esta primavera, Google presentó una función de "Resumen de IA" donde las respuestas del chatbot de la compañía comenzaron a aparecer encima de los resultados de búsqueda típicos, incluso para consultas relacionadas con la salud.Si bien en teoría podría haber parecido una buena idea, ha habido problemas relacionados con los consejos de salud que ofrece el software.
En la primera semana que el bot estuvo en línea, un usuario dijoLa IA de Google dio incorrecta, información posiblemente letal sobre qué hacer si es mordido por una serpiente de cascabel.Otra búsqueda dio como resultado que Google recomendara a las personas comer "al menos una piedra pequeña por día" para obtener vitaminas y minerales; el consejo se tomó de un artículo satírico.
Google dice que desde entonces limitó la inclusión de sitios satíricos y de humor en sus resúmenes y eliminó algunos de los resultados de búsqueda que se volvieron virales.
"La gran mayoría de las descripciones generales de IA proporcionan información de alta calidad, con enlaces para profundizar en la web", dijo un portavoz de Google a CBS News."Para consultas de salud, siempre hemos implementado fuertes barreras de calidad y seguridad, incluidas exenciones de responsabilidad que recuerdan a las personas que es importante buscar asesoramiento de expertos. Hemos seguido perfeccionando cuándo y cómo mostramos descripciones generales de IA para garantizar que la información seaalta calidad y confiable."
CBS News Confirmed descubrió que esas correcciones no han evitado toda la información errónea sobre salud.Las consultas sobre la introducción de alimentos sólidos a bebés menores de seis meses todavía arrojaron respuestas a finales de junio.Se supone que los bebés no deben comenzar a comer alimentos sólidos hasta que tengan al menos seis meses de edad, según elAcademia Americana de Pediatría.A
Búsquedas sobre los beneficios para la salud de dudosas tendencias de bienestar como desintoxicaciones obebiendo leche crudaTambién se incluyen afirmaciones desacreditadas.
A pesar de las peculiaridades y los errores flagrantes, muchos líderes de atención médica dicen que siguen siendo optimistas sobre los chatbots de IA y cómo pueden cambiar la industria.
"La gente accederá a la información que necesita", afirmó el Dr. Nigam Shah, científico jefe de datos de Stanford Healthcare."A corto plazo soy un poco pesimista, creo que nos estamos adelantando un poco. Pero a largo plazo creo que estas tecnologías nos harán mucho bien".
Otros defensores de los chatbots se apresuran a señalar que los médicos no siempre lo hacen bien.Las estimaciones varían, peroestudio del Departamento de Salud y Servicios Humanosde 2022 encontró que hasta el 2% de los pacientes que acuden a un departamento de emergencia cada año pueden sufrir daños después de un diagnóstico erróneo por parte de un proveedor de atención médica.
Shah comparó el uso de chatbots con los primeros días del propio Google.
"Cuando apareció la Búsqueda de Google, la gente entró en pánico de que se autodiagnosticara y se desataría el infierno. Eso no sucedió", dijo Shah."Lo mismo. Pasaremos por esa fase (donde) los nuevos que no están completamente formados cometerán errores, y un par de ellos serán malos, pero en general, tener información cuando no hay otra opción esalgo bueno."
La Organización Mundial de la Salud es una de las empresas que se sumerge en las aguas de la IA.El chatbot de la organización, Sarah, extrae información del sitio de la OMS y de sus socios de confianza, lo que hace que las respuestas sean menos propensas a errores fácticos.Cuando se le preguntó cómo limitar el riesgo de sufrir un ataque cardíaco, Sarah brindó información sobre cómo controlar el estrés, dormir bien y centrarse en un estilo de vida saludable.
Los continuos avances en diseño y supervisión podrían seguir mejorando dichos bots.
Pero si hoy recurre a un chatbot de IA para obtener consejos de salud, tenga en cuenta la advertencia que viene con la versión de Google: "La calidad de la información puede variar".
Major Garrett es el corresponsal jefe de CBS News en Washington.También es el presentador de "The Takeout", un programa semanal de entrevistas multiplataforma sobre política, política y cultura pop.