En Internet circulan imágenes pornográficas deepfake de Taylor Swift, lo que convierte a la cantante en la víctima más famosa deun flageloque las plataformas tecnológicas y los grupos antiabuso han luchado por solucionar.

Imágenes falsas sexualmente explícitas y abusivas de Swift comenzaron a circular ampliamente esta semana en la plataforma de redes sociales X.

Su ferviente base de fans de "Swifties" se movilizó rápidamente, lanzando una contraofensiva en la plataforma anteriormente conocida como Twitter y un hashtag #ProtectTaylorSwift para inundar el sitio de redes sociales con imágenes más positivas de la estrella del pop.Algunos dijeron que estaban denunciando cuentas que compartían los deepfakes.

El Screen Actors Guild emitió un comunicado sobre el tema el viernes, calificando las imágenes de Swift como "perturbadoras, dañinas y profundamente preocupantes", y agregó que "el desarrollo y la difusión de imágenes falsas, especialmente aquellas de naturaleza lasciva, sinel consentimiento de alguien debe ser ilegalizado."

El grupo de detección de deepfake Reality Defender dijo que rastreó una avalancha de material pornográfico no consensuado que representa a Swift, particularmente en X. Algunas imágenes también llegaron a Facebook, propiedad de Meta, y otras plataformas de redes sociales.

"Desafortunadamente, se extendieron a millones y millones de usuarios cuando algunos de ellos fueron eliminados", dijo Mason Allen, jefe de crecimiento de Reality Defender.

Los investigadores encontraron al menos un par de docenas de imágenes únicas generadas por IA.Los más compartidos estaban relacionados con el fútbol y mostraban a Swift pintada o ensangrentada que la objetivaba y, en algunos casos, infligía un daño violento a su personalidad deepfake.

Esto viene después de principios de este mes. un vídeo generado por IAUna imagen que muestra la imagen de Swift respaldando un sorteo falso de utensilios de cocina de Le Creuset también circuló en línea.No estaba claro quién estaba detrás de esa estafa, y Le Creuset se disculpó con quienes pudieron haber sido engañados.

Los investigadores han dicho que la cantidad de deepfakes explícitoshan crecidoen los últimos años, a medida que la tecnología utilizada para producir este tipo de imágenes se ha vuelto más accesible y fácil de usar.En 2019, un informe publicado por la firma de inteligencia artificial DeepTrace Labs mostró que estas imágenes estaban abrumadoramente utilizadas como arma contra las mujeres.La mayoría de las víctimas, dijo, eran actores de Hollywood y cantantes de K-pop surcoreanos.

Brittany Spanos, escritora senior de Rolling Stone que imparte un curso sobre Swift en la Universidad de Nueva York, dice que los fans de Swift se movilizan rápidamente en apoyo de la artista, especialmente aquellos que toman su fandom muy en serio y en situaciones de irregularidades.

"Esto podría ser un gran problema si realmente lo lleva ante los tribunales", dijo.

Cuando se le contactó para comentar sobre las imágenes falsas de Swift, X dirigió a Associated Press a una publicación de su cuenta de seguridad que decía que la compañía prohíbe estrictamente compartir imágenes de desnudos no consensuales en su plataforma.La compañía ha reducido drásticamente sus equipos de moderación de contenido desde que Elon Musk se hizo cargo de la plataforma en 2022.

"Nuestros equipos están eliminando activamente todas las imágenes identificadas y tomando las medidas apropiadas contra las cuentas responsables de publicarlas", escribió la compañía en la publicación X el viernes por la mañana."Estamos monitoreando de cerca la situación para asegurarnos de que cualquier otra violación se aborde de inmediato y que el contenido se elimine".

Mientras tanto, Meta dijo en un comunicado que condena enérgicamente "el contenido que ha aparecido en diferentes servicios de Internet" y ha trabajado para eliminarlo.

"Continuamos monitoreando nuestras plataformas para detectar este contenido infractor y tomaremos las medidas apropiadas según sea necesario", dijo la compañía.

Un representante de Swift no respondió de inmediato a una solicitud de comentarios el viernes.

Allen dijo que los investigadores tienen un 90% de confianza en que las imágenes fueron creadas mediante modelos de difusión, que son un tipo de modelo de inteligencia artificial generativa que puede producir imágenes nuevas y fotorrealistas a partir de indicaciones escritas.Los más conocidos son Stable Diffusion, Midjourney y DALL-E de OpenAI.El grupo de Allen no intentó determinar la procedencia.

Microsoft, que ofrece un generador de imágenes basado parcialmente en DALL-E, dijo el viernes que estaba en el proceso de investigar si su herramienta fue mal utilizada.Al igual que otros servicios comerciales de inteligencia artificial, dijo que no permite "contenido íntimo para adultos o no consensuado, y cualquier intento repetido de producir contenido que vaya en contra de nuestras políticas puede resultar en la pérdida de acceso al servicio".

Cuando se le preguntó sobre los deepfakes de Swift en "NBC Nightly News", el director ejecutivo de Microsoft, Satya Nadella, dijo el viernes que aún queda mucho por hacer para establecer salvaguardas de IA y "nos corresponde actuar rápido en esto".

"Esto es absolutamente alarmante y terrible, por lo que sí, tenemos que actuar", dijo Nadella.

Midjourney, OpenAI y Stability AI, fabricante de Stable Diffusion, no respondieron de inmediato a las solicitudes de comentarios.

Los legisladores federales que han presentado proyectos de ley para imponer más restricciones o criminalizar la pornografía deepfake indicaron que el incidente muestra por qué Estados Unidos necesita implementar mejores protecciones.

"Durante años, las mujeres han sido víctimas de deepfakes no consensuales, por lo que lo que le pasó a Taylor Swift es más común de lo que la mayoría de la gente cree", dijo la representante Yvette D. Clarke, demócrata de Nueva York, quien presentó una legislación que requeriría que los creadorespara marcar digitalmente el contenido deepfake.

El representante Joe Morelle, otro demócrata de Nueva York que impulsa un proyecto de ley que penalizaría el intercambio de pornografía deepfake en línea, dijo que lo que le sucedió a Swift fue inquietante y se ha vuelto cada vez más omnipresente en Internet.

"Las imágenes pueden ser falsas, pero sus impactos son muy reales", dijo Morelle en un comunicado."Los deepfakes les ocurren todos los días a mujeres de todo el mundo en nuestro mundo cada vez más digital, y es hora de ponerles fin".

En:
• profundo
• Taylor Swift
• Inteligencia artificial