Cuando se difunde información engañosa en línea, puede propagarse rápidamente.

Sin embargo, muchas de las mejores herramientas para desacreditar rápidamente fotografías, videos y audio virales solo están disponibles para investigadores, como la Universidad de Buffalo.profundoexperto Siwei Lyu.

"Todos desdeusuarios de redes socialesaperiodistasaaplicación de la leyA menudo tiene que pasar por alguien como yo para descubrir si un medio de comunicación muestra signos de haber sido generado porinteligencia artificial"No pueden obtener un análisis inmediato y concluyente cuando el tiempo apremia", afirma Lyu, que habitualmente atiende este tipo de solicitudes.

Es por eso que Lyu y su equipo en el Laboratorio Forense de Medios de la UB desarrollaron elMedidor DeepFake-o, que combina varios algoritmos de detección de deepfake de última generación en una plataforma web de código abierto.Todo lo que los usuarios deben hacer es registrarse para obtener una cuenta gratuita y cargar un archivo multimedia.Los resultados suelen aparecer en menos de un minuto.

Desde noviembre, ha habido más de 6.300 envíos a la plataforma.Los medios de comunicación lo utilizaron para analizar diversos contenidos generados por IA, desde unLlamada automática de Joe Bidendecirle a los residentes de New Hampshire que no voten a unvídeo del presidente ucraniano Volodymyr Zelenskiyrendirse a Rusia.

"El objetivo es cerrar la brecha entre el público y elcomunidad de investigación", dice Lu, Ph.D., profesor de Innovación SUNY Empire en el Departamento de Ciencias de la Computación e Ingeniería, dentro de la Escuela de Ingeniería y Ciencias Aplicadas de la UB. "Reunir a los usuarios e investigadores de las redes sociales es crucial para resolver muchos de los problemas planteados.por deepfakes."

como funciona

Usar DeepFake-o-Meter es sencillo.

Arrastra y suelta una imagen,videoo archivo de audio en el cuadro de carga.Luego, seleccione algoritmos de detección basados ​​en una variedad de métricas enumeradas, incluida la precisión, el tiempo de ejecución y el año en que se desarrolló.

Luego, cada algoritmo dará un porcentaje de la probabilidad de que el contenido haya sido generado por IA.

"No hacemos afirmaciones contundentes sobre el contenido subido. Simplemente proporcionamos un análisis exhaustivo del mismo a partir de una amplia gama de métodos", afirma Lyu, que también es codirector del Centro para la Integridad de la Información de la UB, que combate los datos engañosos y poco fiables.información en línea."Los usuarios pueden utilizar esta información para tomar su propia decisión sobre si creen que el contenido es real".

Transparencia

A principios de este año, Poynter analizó la llamada automática falsa de Biden con cuatro herramientas gratuitas de detección de deepfake en línea.El DeepFake-o-Meter fue el más preciso, dando un 69,7% de probabilidad de que el audio fuera generado por IA.

Lyu dice que las otras cosas que distinguen a su herramienta son la transparencia y la diversidad.DeepFake-o-Meter es de código abierto, lo que significa que el público tiene acceso a los códigos fuente de los algoritmos y presenta algoritmos desarrollados tanto por Lyu como por otros grupos de investigación de todo el mundo, lo que permite una amplia gama de opiniones y experiencia.

"El análisis de otras herramientas puede ser preciso, pero no revelan qué algoritmos utilizaron para llegar a esa conclusión y el usuario sólo ve una respuesta, lo que podría estar sesgado", dice Lyu."Estamos tratando de proporcionar el máximo nivel de transparencia y diversidad concódigo abiertocódigos de muchos grupos de investigación diferentes."

Un beneficio también para los investigadores

Antes de cargar un medio, el sitio preguntará a los usuarios si desean compartirlo con los investigadores.

Lyu y su equipo entrenan principalmente sus algoritmos en conjuntos de datos compilados por ellos mismos y otros equipos de investigación, pero dice que es crucial exponer los algoritmos a los medios que realmente circulan en línea.El usuario sospechaba que casi el 90% del contenido subido a DeepFake-o-Meter hasta el momento era falso.

"Todo el tiempo surgen nuevos y más sofisticados deepfakes. Los algoritmos deben perfeccionarse continuamente para mantenerse actualizados", dice Lyu."Para que cualquier modelo de investigación tenga un impacto en el mundo real, se necesitan datos del mundo real".

Futuro de la plataforma

Lyu espera aumentar la capacidad de la plataforma más allá de detectar contenido generado por IA, como identificar las herramientas de IA que probablemente se usaron para crearlo en primer lugar.Su grupo ha desarrollado previamente este tipo de herramientas.

"Esto proporcionaría pistas para determinar quién está detrás de esto", dice Lyu."Saber que un medio es sintético o manipulado no siempre es suficiente. Necesitamos saber quién está detrás y cuál es su intención".

A pesar de la promesa de los algoritmos de detección, advierte que los humanos todavía tienen un papel importante que desempeñar.Si bien los algoritmos pueden detectar signos de manipulación que el ojo o el oído humanos nunca detectarán, los humanos tienen un conocimiento semántico de cómo funciona la realidad que los algoritmos a menudo no tienen.

"No podemos confiar únicamente en algoritmos o humanos", dice Lyu."Necesitamos ambos".

Es por eso que espera que DeepFake-O-Meter eventualmente fomente su propia comunidad en línea, en la que los usuarios se comuniquen y se ayuden entre sí a descubrir contenido generado por IA.

"Me gusta pensar en ello como un mercado para cazarrecompensas deepfake", dice."Porque se necesitará un esfuerzo colectivo para resolver el problema de los deepfake".