Sexualmente gráficoImágenes "deepfake" de Taylor Swiftse volvió viral en las redes sociales la semana pasada, lo que generó una condena generalizada por parte de Swifties, el público en general e incluso la Casa Blanca.

Este problema no es nuevo.Swift es una de muchas celebridades y figuras públicas,principalmente mujeres, que han sido víctimas de la pornografía deepfake en los últimos años.Los ejemplos de alto perfil atraen una importante atención de los medios, pero la naturaleza cada vez más sofisticada de la IA significaahora cualquiera puede ser el objetivo.

Si bien existen serias preocupaciones sobre las implicaciones más amplias de los deepfakes, es importante recordar que la tecnología no es lacausade abuso.Es sólo otra herramienta utilizada para implementarlo.

Deepfakes y otros medios manipulados digitalmente

Los deepfakes sexualmente explícitos de Swift aparecieron en múltiplesplataformas de redes socialesla semana pasada, incluidos X (anteriormente Twitter), Instagram, Facebook y Reddit.

La mayoría de las plataformas importantes prohíben compartir medios sintéticos y manipulados digitalmente que causen daño, confusión o engaño, incluida la pornografía deepfake.Esto incluye imágenes creadas mediante medios más simples, como software de edición de fotografías.No obstante, un deepfake que representa a Swiftfue visto47 millones de veces durante un período de 17 horas antes de que fuera eliminado de X.

hay unlarga historiade tecnologías, aplicaciones y servicios digitales que se utilizan para facilitar la violencia de género, incluidaAcoso sexual,agresión sexual, violencia doméstica o familiar, abuso en el noviazgo, acecho y seguimiento, y discurso de odio.

Como tal, nuestro enfoque también debería centrarse en abordar las problemáticas normas y creencias de género que a menudo sustentan estos tipos de abuso.

La aparición de los deepfakes

Los orígenes de los deepfakes se remontan a noviembre de 2017cuando un usuario de Reddit llamó "deepfakes"Creó un foro y un software de edición de video que permitía a los usuarios entrenar sus computadoras para intercambiar las caras de actores porno con caras de celebridades.

Desde entonces, ha habido una expansión masiva de sitios web e hilos dedicados a deepfakes, así como de aplicaciones que pueden crear deepfakes personalizados de forma gratuita o pagando una tarifa.

En el pasado, crear un deepfake convincente a menudo requería mucho tiempo y experiencia, una computadora poderosa y acceso a múltiples imágenes de la persona objetivo.Hoy en día, casi cualquiera puede hacer un deepfake, a veces en cuestión de segundos.

Los daños del porno deepfake

No todas las aplicaciones de imágenes generadas por IA son dañinas.Es posible que hayas visto divertidos deepfakes virales, como las imágenes deEl Papa Francisco con una chaqueta acolchada.O si miras la última película de Indiana Jones, verás a Harrison Ford "envejecido" 40 años gracias a la IA.

Dicho esto, los deepfakes suelen crearse con fines maliciosos, como desinformación, ciberacoso, acoso infantilabuso sexual, extorsión sexual y otras formas de abuso sexual basado en imágenes.

Este artículo se republica desdeLa conversaciónbajo una licencia Creative Commons.Lea elartículo original.