La inteligencia artificial (IA) generativa podría ser más conocida por las aplicaciones de creación de texto o imágenes como ChatGPT o Stable Diffusion.Pero su utilidad más allá de eso se está demostrando en campos científicos cada vez más diferentes.

en sutrabajo reciente, publicado en elarXivservidor de preimpresión y programado para ser presentado en la próxima Conferencia Internacional sobre Representaciones del Aprendizaje (ICLR), investigadores del Centro para la Comprensión de Sistemas Avanzados (CASUS) en el Helmholtz-Zentrum Dresden-Rossendorf (HZDR) en colaboración con colegas del Imperial College London yEl University College London ha proporcionado un nuevo algoritmo de código abierto llamado Modelo de Difusión Variacional Condicional (CVDM).

Basado en IA generativa, este modelo mejora la calidad de las imágenes reconstruyéndolas a partir de la aleatoriedad.Además, el CVDM es computacionalmente menos costoso que lo establecido.difusiónmodelosây se puede adaptar fácilmente para una variedad de aplicaciones.

Con la llegada de los big data y los nuevos métodos matemáticos y de ciencia de datos, los investigadores pretenden descifrar fenómenos aún inexplicables en biología, medicina o ciencias ambientales utilizando enfoques de problemas inversos.Los problemas inversos tratan de recuperar los factores causales que conducen a determinadas observaciones.Tienes una versión en escala de grises de una imagen y quieres recuperar los colores.Generalmente hay varias soluciones válidas, ya que, por ejemplo, el azul claro y el rojo claro parecen idénticos en la imagen en escala de grises.La solución a este problema inverso puede ser, por tanto, la imagen de la camiseta celeste o la de la camiseta roja clara.

El análisis de imágenes microscópicas también puede ser un problema inverso típico."Tiene una observación: su imagen microscópica. Al aplicar algunos cálculos, puede aprender más sobre su muestra de lo que parece a primera vista", dice Gabriel della Maggiora, Ph.D.estudiante de CASUS y autor principal del artículo de ICLR.

Los resultados pueden ser imágenes de mayor resolución o mejor calidad.Sin embargo, el camino desde las observaciones, es decir, las imágenes microscópicas, hasta las "superimágenes" no suele ser evidente.Además, los datos observacionales suelen ser ruidosos, incompletos o inciertos.Todo esto aumenta la complejidad de resolver problemas inversos, convirtiéndolos en desafíos matemáticos apasionantes.

El poder de los modelos de IA generativa como Sora

Una de las herramientas poderosas para abordar problemas inversos es la IA generativa.Los modelos de IA generativa en general aprenden la distribución subyacente de los datos en un conjunto de datos de entrenamiento determinado.Un ejemplo típico es la generación de imágenes.Después de la fase de entrenamiento, los modelos generativos de IA generan imágenes completamente nuevas que, sin embargo, son consistentes con los datos de entrenamiento.

Entre las diferentes variaciones de la IA generativa, una familia particular denominada modelos de difusión ha ganado recientemente popularidad entre los investigadores.Con los modelos de difusión, un proceso iterativo de generación de datos comienza a partir del ruido básico, un concepto utilizado en la teoría de la información para imitar el efecto de muchos procesos aleatorios que ocurren en la naturaleza.

En cuanto a la generación de imágenes, los modelos de difusión han aprendido qué disposiciones de píxeles son comunes y poco comunes en las imágenes del conjunto de datos de entrenamiento.Generan la nueva imagen deseada poco a poco hasta que la disposición de los píxeles coincida mejor con la estructura subyacente de los datos de entrenamiento.

Un buen ejemplo del poder de los modelos de difusión es el modelo de conversión de texto a vídeo Sora de la empresa estadounidense de software OpenAI.Un componente de difusión implementado le brinda a Sora la capacidad de generar videos que parecen más realistas que cualquier cosa que los modelos de IA hayan creado antes.

Pero hay un inconveniente."Se sabe desde hace tiempo que entrenar modelos de difusión es costoso desde el punto de vista computacional. Recientemente, algunos investigadores los abandonaron precisamente por esa razón", dice el Dr. Artur Yakimovich, líder del grupo de jóvenes investigadores de CASUS y autor correspondiente del artículo de ICLR.

"Pero nuevos desarrollos como nuestro modelo de difusión variacional condicional permiten minimizar las 'ejecuciones improductivas', que no conducen al modelo final. Al reducir el esfuerzo computacional y, por lo tanto, el consumo de energía, este enfoque también puede hacer que los modelos de difusión sean más ecológicos para entrenar."

Un entrenamiento inteligente funciona, y no sólo en el deporte

Las "ejecuciones improductivas" son un inconveniente importante de los modelos de difusión.Una de las razones es que el modelo es sensible a la elección del cronograma predefinido que controla la dinámica del proceso de difusión: este cronograma gobierna cómo se agrega el ruido, muy poco o demasiado, lugar equivocado o momento equivocado; hay muchosposibles escenarios que terminan con una formación fallida.

Hasta ahora, este cronograma se ha establecido como un hiperparámetro que debe ajustarse para todas y cada una de las nuevas aplicaciones.En otras palabras, al diseñar el modelo, los investigadores suelen estimar el cronograma que eligieron mediante prueba y error.

En el nuevo artículo, los autores incorporaron el programa ya en la fase de entrenamiento para que su CVDM sea capaz de encontrar por sí solo el entrenamiento óptimo.Luego, el modelo arrojó mejores resultados que otros modelos que se basan en un cronograma predefinido.

Entre otros, los autores demostraron la aplicabilidad del CVDM a un problema científico:microscopía de súper resolución, un típico problema inverso.La microscopía de súper resolución tiene como objetivo superar ellímite de difracción, un límite que restringe la resolución debido a las características ópticas del sistema microscópico.

Para superar este límite algorítmicamente, los científicos de datos reconstruyen imágenes de mayor resolución eliminando tanto la borrosidad como el ruido de las imágenes grabadas de resolución limitada.En este escenario, el CVDM arrojó resultados comparables o incluso superiores a los métodos utilizados habitualmente.

"Por supuesto, existen varios métodos para aumentar el significado de las imágenes microscópicas, algunos de ellos basados ​​en modelos generativos de IA", dice Yakimovich."Pero creemos que nuestro enfoque tiene algunas propiedades nuevas y únicas que dejarán un impacto en la comunidad de imágenes, a saber, alta flexibilidad y velocidad con una calidad comparable o incluso mejor en comparación con otros enfoques de modelos de difusión.

"Además, nuestro CVDM proporciona pistas directas cuando no estamos muy seguros acerca de la reconstrucción, una propiedad muy útil que marca el camino a seguir para abordar estas incertidumbres en nuevos experimentos y simulaciones".

Gabriel della Maggiora presentará el trabajo como póster en la Conferencia Internacional anual sobre Representaciones del Aprendizaje (ICLR) el 8 de mayo en la sesión de carteles 3 a las 10:45.En el sitio web se encuentra disponible una breve charla pregrabada sobre el artículo.La conferencia se organiza este año por primera vez desde 2017 en Europa, concretamente en Viena (Austria).Ya sea que asista en el sitio o mediante videoconferencia, se requiere un pase pago para acceder al contenido.

"El ICLR utiliza un proceso de revisión por pares doble ciego a través del portal OpenReview", explica Yakimovich."Las revisiones van acompañadas de puntuaciones sugeridas por pares; sólo se aceptan artículos con puntuaciones altas. Por lo tanto, la aceptación de nuestro artículo equivale a una gran consideración por parte de la comunidad".