Photonic neuromorphic architecture for tens-of-task lifelong learning
Ilustración del aprendizaje permanente fotónico neuromórfico.Las conexiones fotónicas en cada capa óptica se activan gradualmente con diferentes tareas.Las neuronas fotónicas sólo se iluminan cuando se activan mediante señales correspondientes, en las que las conexiones activas son relativamente escasas y la información se transmite en paralelo en el espectro.Crédito:Luz: ciencia y aplicaciones(2024).DOI: 10.1038/s41377-024-01395-4

Las tareas de inteligencia artificial (IA) se han vuelto cada vez más abundantes y complejas, impulsadas por conjuntos de datos a gran escala.Con el estancamiento de la ley de Moore y el fin de la escala de Dennard, el consumo de energía se convierte en una barrera importante para aplicaciones más generalizadas de los modelos neuronales profundos electrónicos pesados ​​de hoy, especialmente en sistemas terminales/de borde.

La comunidad está buscando modalidades informáticas de próxima generación para superar las limitaciones físicas de las implementaciones electrónicas de redes neuronales artificiales (RNA).

La computación fotónica ha sido una vía prometedora para superar las limitaciones inherentes de la electrónica y mejorar la eficiencia energética, la velocidad de procesamiento y el rendimiento computacional en órdenes de magnitud.

Estas extraordinarias propiedades se han aprovechado para construir arquitecturas ópticas de aplicaciones específicas para resolver problemas matemáticos y de procesamiento de señales fundamentales con rendimientos mucho más allá de los de los procesadores electrónicos existentes.

Desafortunadamente, las ONN existentes sufren un "olvido catastrófico" y todavía luchan con tareas simples y únicas.La razón principal es que heredan el problema generalizado de los sistemas informáticos convencionales, que son propensos a entrenar nuevos modelos que interfieren con el conocimiento aprendido anteriormente, olvidando rápidamente la experiencia adquirida en tareas previamente aprendidas cuando se entrenan en algo nuevo.

Este enfoque no logra explotar plenamente las propiedades intrínsecas de escasez y paralelismo de la óptica ondulatoria para la computación fotónica, lo que en última instancia da como resultado una capacidad de red y una escalabilidad deficientes para el aprendizaje multitarea.

En un artículo recientepublicadoenLuz: ciencia y aplicaciones, un equipo de científicos, dirigido por el profesor Lu Fang del Laboratorio Sigma, Departamento de Ingeniería Electrónica de la Universidad Tsinghua, Beijing, China, y sus compañeros de trabajo han desarrollado L2ONN, una computación fotónica reconfigurablepara el aprendizaje permanente.

Las características únicas de la luz, la escasez espacial y el paralelismo de múltiples espectros se han desarrollado por primera vez en la arquitectura de computación fotónica, dotando a las ONN de capacidad de aprendizaje permanente.A diferencia de los ONN existentes que intentan imitar las estructuras de ANN, el aprendizaje fotónico permanente de L2ONN se diseñó inicialmente siguiendo la naturaleza física de la interacción luz-materia, para explorar completamente los potenciales funcionales y de rendimiento de la óptica ondulatoria en la computación fotónica.

Beneficiándose de la arquitectura de computación óptica de aprendizaje permanente propuesta, las evaluaciones experimentales sobre arquitecturas de espacio libre y en chip demuestran que L2ONN muestra su extraordinaria capacidad de aprendizaje en decenas de tareas desafiantes, como la clasificación de la visión,y diagnóstico médico, apoyando varios entornos nuevos.

l2ONN logra una capacidad hasta 14 veces mayor que las redes neuronales ópticas existentes, con una eficiencia energética de un orden de magnitud mayor que las redes neuronales artificiales electrónicas representativas.

"Los seres humanos poseen la capacidad única de absorber, aprender y memorizar conocimientos de forma incremental. En particular, las neuronas y las sinapsis realizan su trabajo sólo cuando hay tareas que abordar, en las que participan dos mecanismos importantes: la escasa conectividad neuronal y la neurocognición paralelamente impulsada por tareas, juntascontribuir a la consolidación y recuperación de la memoria para toda la vida.

"En consecuencia, en las ONN, estos rasgos característicos pueden promoverse naturalmente desde neuronas biológicas a neuronas fotónicas basándose en las propiedades intrínsecas de escasez y paralelismo de los operadores ópticos.

"Una arquitectura óptica que imita la estructura y función del cerebro humano demuestra su potencial para aliviar los problemas antes mencionados, lo que muestra más ventajas que los enfoques electrónicos en la construcción de un sistema informático viable de aprendizaje permanente.

"Hemos demostrado que el aprendizaje fotónico permanente proporciona una solución llave en mano para aplicaciones de IA de la vida real a gran escala con una escalabilidad y versatilidad sin precedentes. Anticipamos que la arquitectura neuromórfica propuesta acelerará el desarrollo de una computación fotónica más potente como soporte crítico para las máquinas modernas y avanzadas.inteligencia y hacia el inicio de una nueva era de IA", afirmaron los científicos.

Más información:Yuan Cheng et al, Arquitectura neuromórfica fotónica para el aprendizaje permanente de decenas de tareas,Luz: ciencia y aplicaciones(2024).DOI: 10.1038/s41377-024-01395-4

Proporcionado porTranSpread

Citación:Un equipo de investigación desarrolla una arquitectura informática fotónica reconfigurable para el aprendizaje permanente (3 de abril de 2024)recuperado el 3 de abril de 2024de https://techxplore.com/news/2024-04-team-reconfigurable-photonic-architecture-lifelong.html

Este documento está sujeto a derechos de autor.Aparte de cualquier trato justo con fines de estudio o investigación privados, noparte puede ser reproducida sin el permiso por escrito.El contenido se proporciona únicamente con fines informativos.