Más de dos docenas de organizaciones internacionales de la sociedad civil pedirán a las grandes empresas tecnológicas que refuercen sus políticas de inteligencia artificial para combatir la desinformación "sexista y misógina" que plaga las plataformas de redes sociales, según el borrador de una carta abierta al que tuvo acceso la AFP el jueves.

La carta a lajefes ejecutivosde seis gigantes (Meta, X, YouTube, TikTok, Snapchat y Reddit) sigue a un auge en línea de la pornografía deepfake no consensuada, así como al acoso y las estafas habilitadas por herramientas de inteligencia artificial baratas y ampliamente disponibles.

"Es evidente que estos daños no se sienten por igual", dice la carta, firmada por 27 organizaciones digitales y de derechos humanos, incluidas UltraViolet, GLAAD, la Organización Nacional de Mujeres y MyOwn Image.

"Específicamente, las mujeres,personas trans, y las personas no binarias corren un riesgo único de experimentar impactos adversos del contenido basado en IA en las redes sociales".

La carta, que según los grupos se hará pública el viernes, hacía una docena de recomendaciones para fortalecer las políticas de IA.

Entre ellas se incluyen definir claramente las consecuencias de publicar material explícito no consensuado, que debería incluir la suspensión de los infractores reincidentes, implementar una herramienta de terceros para detectar imágenes generadas por IA y etiquetar claramente dicho contenido.

Los grupos también exigieron un procedimiento coherente para que los usuarios señalen y denuncien contenido dañino y que las plataformas realicen auditorías anuales integrales de sus políticas de IA.

Ataques misóginos y sexistas

La carta llega apenas un mes antes de lo que se considera ampliamente como la primera elección de AI en Estados Unidos el 5 de noviembre. La reñida carrera hacia la Casa Blanca ha visto una oleada de desinformación.

Un blanco particular de la desinformación de género es la candidata del Partido Demócrata Kamala Harris, que ha incluido una avalancha de narrativas misóginas y sexistas atacando a la primera vicepresidenta negra, sudasiática y mujer en la historia de Estados Unidos.

"Estos daños nos silencian en línea, violan nuestro derecho a controlar nuestra propia imagen y distorsionan nuestras elecciones", dijo Jenna Sherman, directora de campaña de UltraViolet.

"Pero peor aún, normalizan e incluso codifican algorítmicamenteexplotación sexualy reforzar estereotipos dañinos sobre género, sexualidad y consentimiento".

La proliferación de deepfakes no consensuados está superando los esfuerzos para regular la tecnología a nivel mundial, dicen los expertos, con varias aplicaciones de fotografía que desnudan digitalmente a mujeres e imágenes manipuladas que alimentan los negocios de "sextorsión".

Si bien celebridades como la cantante Taylor Swift y la actriz Emma Watson han sido víctimas del porno deepfake, los expertos dicen que las mujeres que no están en el ojo público son igualmente vulnerables.

"Las tecnologías de inteligencia artificial han facilitado aún más la creación y difusión del acoso y el abuso en línea por motivos de género", dijo Ellen Jacobs, gerente senior de políticas digitales de EE. UU. en el Instituto para el Diálogo Estratégico, que se encontraba entre las organizaciones que firmaron la carta.

"Necesitamos políticas efectivas que aborden específicamente los mayores riesgos para las mujeres, las niñas y las personas LGBTQ+".

Las plataformas no respondieron de inmediato a una solicitud de comentarios antes de la publicación delcarta.

"Las plataformas más grandes del mundo han demostrado que no están equipadas para manejar el aumento de campañas de odio, acoso y desinformación facilitadas por la IA, incluidos deepfakes y bots que pueden arrojar imágenes basadas en el odio a escala masiva", dijo Leanna Garfield, seguridad de redes sociales.Gerente de programa en GLAAD.

Las plataformas "deben tomar medidas concretas ahora, para que todos puedan sentirse seguros en línea".

© 2024 AFP