El Comité de Inteligencia de la Cámara escuchó a expertos sobre las amenazas que los llamados "profundamente falso"Los videos y otros tipos de datos sintéticos generados por inteligencia artificial representan una amenaza para el sistema electoral de Estados Unidos y la seguridad nacional en general. Entre los testigos de la audiencia del jueves se encontraban profesores de la Universidad de Maryland, la Universidad de Buffalo y otros expertos en inteligencia artificial y política digital. 

En una declaración, el comité dice que su objetivo es "examinar las amenazas a la seguridad nacional que plantean los contenidos falsos basados ​​en IA, qué se puede hacer para detectarlos y combatirlos, y qué papel desempeñan el sector público, el sector privado y la sociedad en su conjunto"."Deberíamos jugar para contrarrestar un futuro potencialmente sombrío de 'posverdad'", durante la audiencia del jueves. 

La audiencia se produce en medio de una creciente tendencia de videos en Internet que muestran a figuras de alto perfil que parecen decir cosas que nunca han dicho. 

Recientemente, unVideo manipulado de la presidenta de la Cámara de Representantes, Nancy Pelosi, en el que parece estar discapacitada, circuló en las redes sociales.El video obtuvo más de 2,5 millones de visitas en Facebook después de que el presidente Trump lo compartiera en un intento de restar importancia a los patrones de discurso de Pelosi y su aptitud para el cargo.A los republicanos y demócratas ahora les preocupa que estos videos manipulados se conviertan en la última arma en las guerras de desinformación contra Estados Unidos y otras democracias occidentales.

"Los deepfakes plantean profundas cuestiones sobre la seguridad nacional y la gobernanza democrática, y los individuos y los votantes ya no pueden confiar en sus propios ojos u oídos al evaluar la autenticidad de lo que ven en sus pantallas", dijo el comité en un comunicado. 

En sus comentarios de apertura, el presidente del Comité, el representante Adam Schiff, dijo que la difusión de videos manipulados presenta un escenario de "pesadilla" para las elecciones presidenciales de 2020, dejando a los legisladores, miembros de los medios de comunicación y al público "luchando por discernir lo que es real y lo que es real".falso."

Schiff instó a que "ahora es el momento de que las empresas de redes sociales implementen políticas para proteger a los usuarios de la desinformación, no en 2021, después de que los deepfakes virales hayan contaminado las elecciones de 2020. Para entonces, será demasiado tarde".

Aspectos destacados de la audiencia:

Experto: No hay una "solución milagrosa" para derrotar a los deepfakes

Danielle Citron, profesora de derecho en la Facultad de Derecho Francis King Carey de la Universidad de Maryland, testificó que no existe una forma definitiva de detener la propagación de los deepfakes, pero dijo que es necesaria una combinación de "ley, mercados y resiliencia social" para lograr una resolución. 

"Pero la ley tiene un papel modesto que desempeñar", admitió Citron.Explicó que las víctimas en demandas civiles pueden demandar por difamación o angustia emocional por los videos, pero agregó que es "increíblemente costoso demandar y el derecho penal ofrece muy pocas palancas que podamos impulsar".

Los expertos ofrecen hipótesis "peligrosas" 

"Tendemos a creer lo que nuestros ojos y oídos nos dicen... el vídeo es visceral... cuanto más lascivo es, más dispuestos estamos a transmitirlo. Todo el asunto consiste en hacer clic y compartir", testificó Citron.Ofreció varias situaciones hipotéticas en las que los deepfakes pueden usarse de manera dañina, incluso en materiales pornográficos y en ofertas públicas iniciales. 

"La noche antes de una oferta pública... un deepfake que muestra al director ejecutivo de una empresa... podría alterar la oferta pública inicial, el mercado responderá y caerá mucho más rápido de lo que podemos desacreditarlo", sugirió. 

Un experto dice que los legisladores deberían trabajar con las empresas de redes sociales

Clint Watts, del Instituto de Investigación de Política Exterior, dijo que los políticos deben trabajar para "refutar rápidamente las difamaciones" que se presentan en cualquier video deepfake compartido en línea.Señaló que esto se puede hacer en "asociación" con empresas de redes sociales.Watts también sugirió que el gobierno continúe sus esfuerzos para imponer sanciones estrictas a las granjas de trolls, de manera similar a raíz de la campaña de interferencia rusa de 2016. 

"Lo que vimos si miramos la acusación de GRU es que esencialmente están siendo sancionados y denunciados", dijo Watts.Sugirió que los piratas informáticos y las empresas involucradas en granjas de trolls no quieren ser contratados en esas empresas objetivo después de haber sido acusados ​​por el gobierno de Estados Unidos.De hecho, las sanciones han contribuido a reducir el empleo en esas respectivas empresas. 

Experto advierte sobre los peligros del carácter "instantáneo" de los deepfakes

"Una mentira puede recorrer medio mundo antes de que la verdad se ponga los zapatos, y eso es cierto", testificó David Doermann, profesor de Innovación SUNY Empire y director del Instituto de Inteligencia Artificial de la Universidad de Buffalo. 

"Personalmente no veo ninguna razón por la cual, las noticias lo hacen con retrasos en vivo, no hay ninguna razón por la que las cosas tengan que ser instantáneas, las redes sociales deberían inculcar este tipo de cosas para retrasar", sugirió. Doermann continuó:diciendo que hay herramientas que las empresas de redes sociales podrían usar para vincular audio y video verificables y tomar una decisión sobre eliminarlos de sus respectivos sitios "de la misma manera que lo hacemos con el malware o los problemas cibernéticos".

"Estamos protegiendo nuestra puerta de entrada", dijo. 

¿Qué pueden hacer las campañas de 2020 con respecto a los deepfakes?

Los expertos testificaron que los aspirantes a la presidencia y sus respectivas campañas deben trabajar mano a mano con las empresas de medios sociales para crear "estándares unificados" sobre la desinformación. 

"Presionar a la industria para que trabaje en conjunto contra el extremismo, la desinformación... respuestas rápidas para lidiar con estas cosas. Cualquier tipo de retraso en términos de respuesta permite que esa conspiración crezca, cuanto más rápido se salga, mejor y los principales medios y otros funcionariospuede ayudar", sostuvo Watts. 

Citron estuvo de acuerdo y dijo que las campañas deben asumir un "compromiso" de no difundir ni compartir deepfakes durante el transcurso de la campaña y construir mejores relaciones con las empresas de redes sociales para refutar directamente cualquier información errónea en línea. 

Dijo que los consumidores y los votantes deben aprender a ser "escépticos sin ser nihilistas".

Efectos "corrosivos" a largo plazo de los deepfakes y la desinformación 

Todos los expertos coincidieron en que el uso de deepfakes tiene graves implicaciones para la sociedad, no sólo para la política, sino también para el periodismo.Jack Clark, director de políticas de OpenAI, lo llamó una "amenaza encubierta" para los medios de comunicación, ya que las manipulaciones buscan convencer al público de que los informes son objetivamente inexactos. 

Citron estuvo de acuerdo y dijo que los deepfakes que son difíciles de desacreditar pueden potencialmente llevar a los periodistas a no hacer caso de las pruebas o los informes por temor a que sean falsos.Llamó a ese "esfuerzo corrosivo de los trolls en línea una" decadencia de la verdad "que afecta todo, incluido el periodismo y los medios de comunicación". 

Mientras tanto, Watts advirtió que las horas extras, el uso de desinformación y deepfakes podrían conducir a una "apatía a largo plazo".

"Si con el tiempo no pueden distinguir la realidad de la ficción, creerán todo o nada en absoluto", dijo Watts.Señaló la relación entre el gobierno ruso y su pueblo, diciendo que el Kremlin utiliza una "manguera de falsedades" para controlar la opinión pública. 

Informe de Emily Tillett y Olivia Gazis