Si bien la inteligencia artificial (IA) promete inmensos beneficios, también impone enormes riesgos.Algunos de ellos (la aceleración de la desinformación, los sofisticados ataques cibernéticos y el aumento vertiginoso del consumo de energía) ya han llegado.Es probable que aún falten algunos años para otros, incluidas las máquinas súper inteligentes que toman decisiones independientemente de la supervisión humana.Aunque la conciencia sobre estos riesgos es cada vez mayor, hay muchos otros que aún deben definirse.Y a pesar de todas las incalculables oportunidades que ofrece la IA, especialmente enpaíses en desarrollo, es un negocio arriesgado.

Crecen las preocupaciones sobre las formas en que la rápida adopción de la IAimpactar negativamentesociedades, incluso en el Sur Global.El año pasado mi Instituto, junto conNueva America, convocó aGrupo de trabajo mundialcompuesto por especialistas en IA de toda América, África y Asia para revisar formas de mejorar la seguridad y la alineación de la IA.Y en 2024, elgrupo de trabajoemitió uncebadorpara mitigar prácticamente los riesgos y mejorar la resiliencia y al mismo tiempo cerrarGobernanza y brechas regulatorias.entre el Norte y el Sur Global.

Riesgos de la IA

Uno de los riesgos más importantes que identificó el grupo es la automatización masiva y el desplazamiento de empleos.Se espera que la IA afecte a un gran número de trabajadores en sectores que van desde la agricultura, la manufactura, el comercio minorista hasta el derecho, la medicina y las finanzas.Si bien sin duda surgirán nuevas formas de empleo, los empleos de hasta800 milloneslas personas corren el riesgo de sufrir la automatización de aquí a 2030, incluidas300 millonesen los países ricos.La Organización Internacional del Trabajoestimacionesque más del 56 por ciento de todos los empleos en países de bajos y bajos ingresospaíses de ingresos medioscorren "alto riesgo" de automatización.Sin salvaguardias, esto podría agudizar la desigualdad económica y excluir a los trabajadores poco calificados.

Otro riesgo implica profundizar las brechas digitales y agudizar la desigualdad.La brecha entre quienes pueden acceder a tecnologías avanzadas y quienes no pueden esse espera que se amplíeen los próximos años, lo que conducirá a una menor productividad, un menor crecimiento económico y una mayor desigualdad social y económica.Esto es particularmente cierto enentornos de ingresos bajos y mediosya enfrentan deficiencias en talento digital y servicios relacionados.

Los prejuicios y la discriminación son otro riesgo asociado con la IA.Las tecnologías y modelos avanzados diseñados en EE. UU., China y la UE puedenperpetuary amplificar los sesgos ya presentes en eldatos de entrenamiento.Esto puede llevar aresultados discriminatoriosen todo, desde puntajes crediticios hasta vigilancia policial.También puede dar lugar a una exclusión injusta de oportunidades en el mercado laboral, créditos y préstamos y servicios de salud debido a algoritmos sesgados.

La IA también permite la intensificación de la vigilancia y las violaciones de la privacidad.La integración de la IA en todo, desdeciudades inteligentesaaplicación de la leypuede infringir la privacidad, las libertades civiles y los derechos humanos.Esto es especialmente cierto en países con instituciones democráticas más débiles.De hecho, los regímenes autoritarios ya están desplegandoSistemas habilitados para IApara rastrear a los oponentes políticos, reprimir la disidencia y atacar a las comunidades marginadas por motivos étnicos, religiosos o ideológicos.

Es más, la dependencia de tecnologías y conocimientos extranjeros también constituye un riesgo en el Sur Global.La excesiva dependencia de las innovaciones estadounidenses, chinas y europeas puede potencialmentereducir los incentivospara construir sectores tecnológicos nacionales en entornos de bajos ingresos.También puede degradar el poder de negociación de los gobiernos locales, contribuyendo acostos más altospara la tecnología mientrasreducir el control sobre las normas.La dependencia de proveedores extranjeros también puede dar lugar a que actores extranjeros accedan, controlen, manipulen y exploten más fácilmente los datos, lo que genera preocupaciones sobre la privacidad, el robo de propiedad y la integridad de la infraestructura crítica.

Soluciones emergentes

Dados todos estos riesgos, ¿cuáles son algunas de las soluciones que se están considerando en el Sur Global?Por un lado, hay un creciente coro de voces que piden una mayor participación de los gobiernos y expertos de los países en desarrollo en la formulación de estándares globales.Este es un llamado que se hizo eco en una reciente Asamblea General de la ONU de 2024.resolución sobre la inclusión de la IAy un acuerdo recientementeCompacto digitaldestinado a superar las brechas digitales, de datos y de innovación.Está surgiendo un consenso para garantizar que la IA sea más equitativa, inclusiva y sensible a los desafíos específicos del Sur Global.

En la práctica, es esencial una mayor inversión en educación y formación profesional para prepararse para la próxima automatización y pérdida de empleos.Esto requiere el desarrollo de centros de formación y cursos en línea, becas de reciclaje, servicios de colocación laboral y prestaciones progresivas de desempleo, así comorenta básica universal(RBU) esquemas.Y están surgiendo ejemplos prometedores: la IndiaIniciativa IA para todos, Ruandaembajadores digitales, y de BrasilConectaTodos los programas están ayudando a personas y empresas a hacer la transición a la economía digital.Y países tan variados comoKenia,NamibiayIndiaestán poniendo a prueba la RBU, aunque se necesitan más acciones.

Los actores públicos y privados necesitarán aumentar drásticamente la inversión en infraestructura digital para corregir las brechas digitales en todo el Sur Global.Esto incluye ampliaracceso a Internety acceso de banda ancha a la2.600 millones de personasque todavía no están conectados.Son esenciales políticas que promuevan los centros digitales, el acceso equitativo a los servicios digitales y los programas de tecnología de costo perdido.Un ejemplo de cómo amplificar tales actividades esIA para el desarrollo de Smart Africa Alliance(AI4D) que está construyendo marcos éticos de IA para la gobernanza, la agricultura y la atención médica.

Los prejuicios y la discriminación se pueden minimizar mediante mejores directrices y estándares para el desarrollo y la implementación de la IA.Los países, las empresas y los activistas digitales deben elaborar y hacer cumplir marcos regulatorios que exijan transparencia algorítmica y auditorías periódicas.También existen grandes oportunidades para exigir que los datos utilizados para entrenar sistemas de IA sean más diversos y representativos.El Grupo de Trabajo Mundial identificó cerca de700 estrategias de este tipo, aunque más de dos tercios se formularon en países ricos, lo que sugiere que es necesario trabajar más para cerrar la brecha.

Frenar la vigilancia y las violaciones de la privacidad requiere leyes sólidas de protección de datos y privacidad para salvaguardar la información personal.Elunión Europeay países comoBrasil,India,Kenia,Sudáfrica, yTanzania, están desarrollando marcos regulatorios ágiles adaptados a sus realidades específicas.También es necesario que haya una regulación clara que rija el uso de la IA para la vigilancia con el fin de minimizar las prácticas invasivas, así como campañas de concientización pública junto con la defensa de la sociedad civil para obtener protecciones más sólidas.

Y reducir la dependencia excesiva de los proveedores de tecnología extranjeros requiere inversión en políticas e investigación locales de IA, junto con subvenciones e incentivos para aceleradores, empresas emergentes y laboratorios locales.Las alianzas y la colaboración internacionales también desempeñan un papel clave, como los programas para capacitar a los legisladores y funcionarios públicos dirigidos porUIT,UNESCO,PNUD- al igual que los centros dedicados a la formación y educación de la fuerza laboral proporcionados por grupos comoGoogle,Intel, ymicrosoft.

Las medidas para reducir los riesgos de la IA deben abordar la enorme brecha en la gobernanza de la IA entre el Norte y el Sur Global.Esta brecha se expresa no sólo en términos de científicos de datos y centros de datos, sino también en términos de regulación.Una prioridad clave implicaintensificar la participaciónde tomadores de decisiones y expertos en el desarrollo de políticas de IA del Sur Global, incluso en elG20yOCDEcontextos.A pesar de las preocupaciones legítimas confragmentación regulatoria, los marcos de gobernanza de la IA también deben estar alineados con los contextos locales.El recientemente acordadoEstrategia de IAyEstrategia de Transformación Digitalestablecido por la Unión Africana ofrece señales prometedoras.

La buena noticia es que una recienteResolución de la ONU sobre IA inclusiva,Panel de alto nivel sobre IA, yPacto Digital Mundialestán trazando un camino positivo hacia adelante.El pacto exige explícitamente un desarrollo de políticas de IA más inclusivas, la creación de un panel científico independiente sobre IA y un diálogo global para anclar la IA en los derechos humanos.Quizás lo más importante es que también recomienda el lanzamiento de un fondo global para apoyar la infraestructura digital y el desarrollo de habilidades.Un fondo de este tipo necesitará hacer grandes apuestas (similares a las establecidas en iniciativas privadas como el reciente fondo lanzado porIBM y Blackrocksi se quiere ayudar a cerrar la brecha de capacidades y gobernanza de la IA.

Este artículo se republica desdeLa conversaciónbajo una licencia Creative Commons.Lea elartículo original.