El desarrollo de la inteligencia artificial no debe guiarse únicamente por las fuerzas del mercado, advirtieron el jueves expertos de la ONU, pidiendo la creación de herramientas para la cooperación global.

Pero se abstuvieron de sugerir la creación de un órgano rector mundial poderoso para supervisar el lanzamiento y la evolución de una tecnología, cuya proliferación ha generado temores sobre sesgos, mal uso y dependencia.

El panel de alrededor de 40 expertos de los campos de la tecnología, el derecho yprotección de datosfue establecido por el Secretario General de la ONU, Antonio Guterres, en octubre.

Su informe, publicado días antes del inicio de una "Cumbre del Futuro" de alto perfil, genera alarma sobre la falta de gobernanza global de la IA, así como la exclusión efectiva de los países en desarrollo de los debates sobre el futuro de la tecnología.

De los 193 miembros de la ONU, sólo siete forman parte de las siete principales iniciativas vinculadas a la IA, mientras que 118 están completamente ausentes, en su mayoría naciones del sur global.

"Existe hoy un déficit de gobernanza global con respecto a la IA", que por su naturaleza es transfronteriza, advierten los expertos en su informe.

"La IA debe servir a la humanidad de manera equitativa y segura", dijo Guterres esta semana.

"Si no se controlan, los peligros que planteainteligencia artificialpodría tener graves implicaciones para la democracia, la paz y la estabilidad".

'Demasiado tarde'?

Como telón de fondo de su llamado de atención, los expertos pidieron a los miembros de la ONU que establezcan mecanismos para engrasar las ruedas delcooperación globalsobre la cuestión, así como para impedir la proliferación involuntaria.

"El desarrollo, despliegue y uso de dicha tecnología no puede dejarse únicamente a los caprichos de los mercados", dice el informe.

En primer lugar, pidió la creación de un grupo de expertos científicos en IA inspirado en el foro de expertos del Panel Intergubernamental sobre Cambio Climático (IPCC), cuyos informes son la última palabra sobre la cuestión de lacambio climático.

El panel informaría a la comunidad internacional sobre los riesgos emergentes, identificaría las necesidades de investigación y cómo podría usarse para aliviar el hambre, la pobreza y la desigualdad de género, entre otros objetivos.

Esa propuesta está incluida en el borrador del Pacto Digital Global, aún en discusión, que será adoptado el domingo en la "Cumbre del Futuro".

El informe respalda el establecimiento de una estructura ligera de "coordinación" dentro de la secretaría de la ONU.

Pero no llega a ser un organismo de gobernanza internacional de pleno derecho, como el que busca Guterres, basado en el modelo del organismo de vigilancia nuclear de la ONU, la OIEA.

"Si los riesgos de la IA se vuelven más graves y más concentrados, podría ser necesario que los Estados miembros consideren una institución internacional más sólida con poderes de seguimiento, presentación de informes, verificación y aplicación de la ley", dice el informe.

Los autores reconocen que, debido a la vertiginosa velocidad del cambio en la IA, sería inútil intentar elaborar una lista completa de los peligros que presenta esta tecnología en constante evolución.

Pero señalaron los peligros de la desinformación para la democracia, los deepfakes cada vez más realistas, particularmente los pornográficos, así como la evolución de las armas autónomas y el uso de la inteligencia artificial por parte de criminales ygrupos terroristas.

"Sin embargo, dada la velocidad, autonomía y opacidad de los sistemas de IA, esperar a que surja una amenaza puede significar que cualquier respuesta llegará demasiado tarde", dice el informe."Las evaluaciones científicas continuas y el diálogo político garantizarían que el mundo no se sorprenda".

© 2024 AFP