El director ejecutivo de Google, Sundar Pichai, criticó el martes los errores "completamente inaceptables" de su aplicación Gemini AI, después de que errores como imágenes de tropas nazis étnicamente diversas de la Segunda Guerra Mundial la obligaron a impedir que los usuarios crearan imágenes de personas.

La controversia surgió pocas semanas después del cambio de nombre de Google de su IA estilo ChatGPT a "Gemini", dando a la aplicación una prominencia sin precedentes en sus productos mientras compite con OpenAI y su patrocinador Microsoft.

Los usuarios de las redes sociales se burlaron y criticaron a Google por las imágenes históricamente inexactas generadas por Géminis, como las de los senadores estadounidenses del siglo XIX que eran étnicamente diversos e incluían mujeres.

"Quiero abordar los problemas recientes con respuestas problemáticas de texto e imágenes en la aplicación Gemini", escribió Pichai en una carta al personal, que fue publicada por el sitio web de noticias Semafor.

"Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado parcialidad; para ser claros, eso es completamente inaceptable y nos equivocamos".

Un portavoz de Google confirmó a la AFP que la carta era auténtica.

Pichai dijo que los equipos de Google estaban trabajando "las 24 horas del día" para solucionar estos problemas, pero no dijo cuándo volvería a estar disponible la función de generación de imágenes.

"Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón es alto para nosotros y lo mantendremos durante el tiempo que sea necesario", escribió.

Las empresas tecnológicas ven los modelos de inteligencia artificial generativa como el próximo gran paso en la informática y se apresuran a incorporarlos en todo, desde búsquedas en Internet y automatización de la atención al cliente hasta la creación de música y arte.

Pero los modelos de IA, y no sólo los de Google, han sido criticados durante mucho tiempo por perpetuar sesgos raciales y de género en sus resultados.

Google dijo la semana pasada que las respuestas problemáticas de Gemini fueron el resultado de los esfuerzos de la compañía por eliminar esos sesgos.

Gemini fue calibrado para mostrar personas diversas, pero no se ajustó a indicaciones donde ese no debería haber sido el caso, y también se volvió demasiado cauteloso con algunas solicitudes que de otro modo serían inofensivas, escribió Prabhakar Raghavan de Google en una publicación de blog.

"Estas dos cosas llevaron al modelo a compensar excesivamente en algunos casos y a ser demasiado conservador en otros, lo que llevó a imágenes embarazosas y erróneas", afirmó.

Han surgido muchas preocupaciones sobre la IA desde el éxito explosivo de ChatGPT.

Los expertos y los gobiernos han advertido que la IA también conlleva el riesgo de provocar grandes trastornos económicos, especialmente el desplazamiento de empleos, y desinformación a escala industrial que puede manipular las elecciones y estimular la violencia.

© 2024 AFP