Las herramientas digitales pueden alterar imágenes de nosotros mismos y de los demás de maneras más convincentes y difíciles de detectar que nunca.Pueden crear efectos especiales espectaculares en las películas.Pero también se utilizan con imágenes o voces de personas sin su consentimiento, o para crear propaganda con la intención de engañar a la gente.

Mary Ton es profesora y bibliotecaria de humanidades digitales de la Biblioteca de la Universidad, y su experiencia incluye el uso de inteligencia artificial en humanidades.Habló con la editora de artes y humanidades de News Bureau, Jodi Heckel, sobre el uso de deepfakes.

¿Qué son exactamente los deepfakes y cómo se crean?

Los deepfakes reciben su nombre deaprendizaje profundo, un método enCiencias de la Computaciónque se utiliza para estudiar patrones en grandes cantidades de imágenes, sonido y vídeo.Estos patrones se representan a través de ecuaciones matemáticas que son tan complejas que se asemejan a las densas redes de neuronas del cerebro humano, lo que hace que estos algoritmos sean artificialmente inteligentes.

Cuando se les dan imágenes de humanos, las computadoras buscan patrones en píxeles, los componentes básicos de una imagen digital.En el caso del sonido, las computadoras transforman ondas sonoras en representaciones visuales y luego usan técnicas de reconocimiento de imágenes para identificar patrones de manera muy similar a como abordan las imágenes.Los deepfakes aplican lo que han aprendido sobre cómo se ven y suenan los humanos para crear nuevas disposiciones de píxeles que imitan el rostro y la voz humanos.

Manipular imágenes no es nada nuevo.Desde las estatuas muy estilizadas del faraón egipcio Akenatón hasta fotografías victorianas de cinturas de mujeres alteradas químicamente, hemos estado utilizandorepresentaciones visualesproyectar nuestro yo ideal.Las tecnologías digitales introducen un nivel de sofisticación sin precedentes en estas imágenes idealizadas, lo que dificulta determinar en qué medida se ha modificado una imagen.

¿Cómo se utilizan los deepfakes de forma positiva y siniestra en la industria del entretenimiento?

En el mejor de los casos, los deepfakes nos ayudan a comunicarnos.Si has visto "Indiana Jones y el dial del destino", habrás visto cómoLos artistas de efectos especiales pueden usar deepfakes para envejecer digitalmente a los actores., y el doble fornido de Ryan Reynold en "Free Guy" es un ejemplo hilarante de cómoPueden superponer la cabeza de un actor al cuerpo de otro..

Hay canales de YouTube dedicados a celebridades falsificadas que hacen cosas cotidianas, como este deKeanu Reeves se anima a hacer una llamada telefónica.Las tecnologías deepfake también han sidoSe utiliza ampliamente en el proceso de doblaje para hacer coincidir los movimientos de los labios del actor con la pista de audio., creando una experiencia más fluida en todos los idiomas.

El Centro para la Innovación en la Enseñanza y el Aprendizaje de Illinois ha estado explorando aplicaciones educativas para deepfakes ayudando a los profesores a crear avatares de IA con HeyGen.

En el peor de los casos, los deepfakes socavan los medios de vida y el bienestar de los artistas.La industria de la actuación de voz se ha visto particularmente afectada porque las empresas están utilizando narraciones generadas por inteligencia artificial en lugar de contratar actores.Peor aún, las actrices y los streamers de Twitch están descubriendo que sus imágenes se han utilizado para crear contenido pornográfico sin su consentimiento.

Si bien los deepfakes están abriendo nuevas posibilidades creativas, estas aplicaciones están comprometiendo las oportunidades para que los artistas contribuyan a la industria del entretenimiento en sus propios términos.

¿Qué espera ver con respecto al uso de deepfakes políticos durante este ciclo de elecciones presidenciales?

Los votantes de todo elespectro políticoDeben estar especialmente atentos en esta temporada electoral cuando encuentren imágenes, vídeos y grabaciones de sonido de los candidatos.Ya hemos visto dos ejemplos destacados de cómo se han utilizado los deepfakes para desinformar y engañar a los votantes.

Durante las primarias,Un Joe Biden falsificado llamó a los residentes de New Hampshire para disuadirlos de votar, y la BBC informó queImágenes de Donald Trump generadas por IAestaban siendo utilizados por grupos de defensa política para cortejar a los votantes negros.

Las redes sociales proporcionan una plataforma internacional para compartir contenido deepfake de forma rápida y anónima, así que tenga especial cuidado con el contenido que encuentre en Facebook, X, Tik Tok e Instagram.

Al mismo tiempo, estamos viendo que los legisladores adoptan la IA para promover conversaciones sobre accesibilidad e inclusión.La representante Jennifer Wexton de Virginia pronunció un discurso utilizando una versión de su voz generada por IA para resaltar cómo las tecnologías adaptativas apoyan a las personas con trastornos neurológicos como el de ella.Creo que veremos a más candidatos abordar la IA y sugerir políticas para abordar su impacto en el discurso político, el arte y la privacidad.

¿Existe alguna regulación sobre imágenes o vídeos deepfake?¿Cuáles son algunos de los problemas con su regulación?

Todavía no existe un enfoque unificado para abordar la difusión de contenido deepfake, pero estamos viendo un mayor impulso dentro de la UE y los EE. UU. para etiquetar imágenes y videos creados con herramientas de inteligencia artificial generativa.Hasta el momento, este movimiento ha sido liderado por Meta a través de Instagram y Facebook, además de destacadas agencias de noticias.Sin embargo, es difícil crear pautas firmes para implementar una estrategia para etiquetar contenido de manera consistente porque las herramientas de manipulación de fotografías como Photoshop son muy comunes.

Para complicar aún más las cosas, entrenar a la IA en contenido protegido por derechos de autor es legal.Los tribunales han tendido a caracterizar esto comoun uso justo del materialporque transforma el contenido en una representación algorítmica de patrones.El acceso al contenido puede estar limitado por acuerdos de licencia y términos de servicio.

Si es un creador de contenido, es especialmente importante que revise los términos de servicio de un sitio web para ver si permiten la extracción de datos.Si el sitio lo hace, cualquier cosa que publique se puede utilizar para entrenar herramientas de inteligencia artificial generativa.Algunos sitios como DeviantArt y Facebook te permiten optar por no participar.También estamos viendo el aumento de herramientas para proteger a los artistas y su trabajo.Programas como Glaze y AntiFake introducen ruido en imágenes y audio para interrumpir el proceso de aprendizaje profundo, lo que hace que el contenido protegido sea más difícil de acceder.profundo.

¿Cómo puede alguien detectar una imagen o un vídeo falso?

¡El mejor detector eres tú!La detección automatizada es difícil porque estas herramientas se basan en las mismas técnicas de reconocimiento de patrones que se utilizan para crear deepfakes en primer lugar.Recomiendo utilizar el método SILL para evaluar contenidos: detenerse, investigar, mirar y escuchar.

• Detente: Los deepfakes están diseñados para hacerte reaccionar.Hacer una pausa antes de volver a compartir o actuar sobre el contenido le da tiempo para evaluarlo.
• Investigue la fuente: el uso de búsquedas inversas de imágenes como Google Lens o TinEye puede ayudarlo a identificar la fuente original de una imagen.
• Busque imperfecciones: los deepfakes tienden a ser demasiado perfectos, así que esté atento a cosas como el desenfoque, el movimiento de la cámara y las sombras.El uso limitado de gestos con las manos o una cantidad inesperada de dedos pueden ser signos de una imagen generada por IA.
• Escuche: las voces deepfaked a menudo suenan monótonas, sin el aumento y la caída del tono del habla humana.