Las técnicas de aprendizaje de redes neuronales surgen de la dinámica del cerebro.Sin embargo, estos dos escenarios, aprendizaje cerebral y aprendizaje profundo, son intrínsecamente diferentes.Una de las diferencias más destacadas es la cantidad de capas que posee cada uno.

Las arquitecturas de aprendizaje profundo suelen constar de numerosas capas que pueden ampliarse a cientos, lo que permite un aprendizaje eficiente de tareas de clasificación complejas.Por el contrario, elcerebroconsta de muy pocas capas, pero a pesar de su arquitectura poco profunda y su dinámica lenta y ruidosa, puede realizar de manera eficiente tareas de clasificación complejas.

La pregunta crítica que impulsa nuevas investigaciones es el posible mecanismo subyacente al eficiente aprendizaje superficial del cerebro, que le permite realizar tareas de clasificación con la misma precisión queaprendizaje profundo.En un artículo publicado enPhysica A: Mecánica Estadística y sus Aplicaciones, investigadores de la Universidad Bar-Ilan en Israel muestran cómo estos mecanismos de aprendizaje superficial pueden competir con el aprendizaje profundo.

"En lugar de una arquitectura profunda, como un rascacielos, el cerebro consiste en una arquitectura ancha y poco profunda, más parecida a un edificio muy ancho con sólo unos pocos pisos", dijo el profesor Ido Kanter del Departamento de Física y Gonda de Bar-Ilan (Goldschmied).Centro Multidisciplinario de Investigación del Cerebro, quien dirigió la investigación.

"La capacidad de clasificar correctamente los objetos aumenta cuando ella arquitectura se vuelve más profunda, con más capas.Por el contrario, el mecanismo superficial del cerebro indica que una red más amplia clasifica mejor los objetos", dijo Ronit Gross, unestudiante universitarioy uno de los contribuyentes clave a este trabajo."Las arquitecturas más amplias y superiores representan dos mecanismos complementarios", añadió.

Sin embargo, la realización de muy ampliaarquitecturas superficiales, imitando eldinámica del cerebro, requiere un cambio en las propiedades de la tecnología GPU avanzada, que es capaz de acelerar profundamentearquitectura, pero falla en la implementación de los anchos y poco profundos.

Más información:Ofek Tevet et al, Mecanismo eficiente de aprendizaje superficial como alternativa al aprendizaje profundo,Physica A: Mecánica Estadística y sus Aplicaciones(2024).DOI: 10.1016/j.physa.2024.129513