신경망 학습 기술은 뇌의 역학에서 비롯됩니다.그러나 두뇌 학습과 딥 러닝이라는 두 가지 시나리오는 본질적으로 다릅니다.가장 눈에 띄는 차이점 중 하나는 각 레이어가 보유하는 레이어 수입니다.

딥 러닝 아키텍처는 일반적으로 수백 개까지 늘릴 수 있는 수많은 레이어로 구성되어 복잡한 분류 작업을 효율적으로 학습할 수 있습니다.대조적으로,뇌매우 적은 수의 레이어로 구성되어 있지만 얕은 아키텍처와 시끄럽고 느린 역학에도 불구하고 복잡한 분류 작업을 효율적으로 수행할 수 있습니다.

새로운 연구를 추진하는 중요한 질문은 뇌의 효율적인 얕은 학습을 뒷받침하는 가능한 메커니즘으로, 뇌가 동일한 정확도로 분류 작업을 수행할 수 있게 해줍니다.딥러닝.에 게재된 기사에서물리 A: 통계 역학 및 응용, 이스라엘 Bar-Ilan University의 연구원들은 그러한 얕은 학습 메커니즘이 어떻게 딥 러닝과 경쟁할 수 있는지 보여줍니다.

Bar-Ilan 물리학과의 Ido Kanter 교수(Goldschmied)는 "초고층 빌딩과 같은 깊은 건축물 대신 뇌는 바닥이 거의 없는 매우 넓은 건물과 같은 넓고 얕은 건축물로 구성되어 있습니다"라고 말했습니다.연구를 주도한 다학제뇌연구센터.

"물체를 정확하게 분류하는 능력은 다음과 같은 경우에 증가합니다.건축이 깊어진다, 더 많은 레이어가 있습니다.대조적으로, 뇌의 얕은 메커니즘은 더 넓은 네트워크가 물체를 더 잘 분류한다는 것을 나타냅니다."라고 Ronit Gross는 말했습니다.학부생그리고 이 작업의 주요 기여자 중 하나입니다."더 넓고 더 높은 아키텍처는 두 가지 보완적인 메커니즘을 나타냅니다."라고 그녀는 덧붙였습니다.

그럼에도 불구하고, 매우 넓은 범위의 구현얕은 아키텍처, 모방뇌의 역학, 심층적인 가속이 가능한 고급 GPU 기술의 속성 변화가 필요합니다.건축학, 그러나 넓고 얕은 구현에는 실패합니다.

추가 정보:Ofek Tevet 외, 딥러닝의 대안으로 효율적인 얕은 학습 메커니즘,물리 A: 통계 역학 및 응용(2024).DOI: 10.1016/j.physa.2024.129513