A first physical system to learn nonlinear tasks without a traditional computer processor
예술 과학 대학 두리안 연구 그룹의 박사후 연구원인 Sam Dillavou는 빠르고 저전력이며 확장 가능하고 비선형 작업을 학습할 수 있는 아날로그 시스템인 대조적인 로컬 학습 네트워크의 구성 요소를 구축했습니다.크레딧: Erica Moser

과학자들은 기계 학습을 수행할 수 있는 뇌와 유사한 시스템을 구축하고 확장하려고 노력하면서 많은 절충안을 겪습니다.예를 들어 인공 신경망은 복잡한 언어 및 시각 작업을 학습할 수 있지만 이러한 작업을 수행하도록 컴퓨터를 훈련시키는 과정은 느리고 많은 전력이 필요합니다.

디지털 방식으로 학습하지만 작업을 아날로그 방식으로 수행하도록 기계를 교육합니다. 즉, 입력은 전압과 같은 물리량에 따라 달라집니다. 이는 시간과 전력을 줄일 수 있지만 작은 오류는 급속도로 악화될 수 있습니다.

펜실베이니아 대학의 물리학 및 공학 연구진이 만든 전기 네트워크이전에 디자인된시스템 크기가 커짐에 따라 오류가 복합적으로 발생하지 않기 때문에 확장성이 더 뛰어나지만, 입력과 출력 사이의 단순한 관계가 있는 선형 작업만 학습할 수 있으므로 심각하게 제한됩니다.

이제 연구원들은 빠르고, 저전력이며, 확장 가능하고, 더 많은 것을 배울 수 있는 아날로그 시스템을 만들었습니다., "배타적 또는" 관계(XOR) 및 비선형 회귀를 포함합니다.이를 대조 지역 학습 네트워크라고 합니다.구성 요소는 더 큰 구조에 대한 지식 없이도 로컬 규칙에 따라 자체적으로 발전합니다.

물리학 교수인 더글라스 J. 두리안(Douglas J. Durian)은 이를 인체의 뉴런이 어떻게 작용하는지와 비교합니다.다른 뉴런이 무엇을 하고 있는지 모르지만 학습이 나타납니다.

"그것은 배울 수 있다.컴퓨터 신경망과 유사하지만 유용한 작업을 수행하는 것이 물리적인 대상입니다."라고 Durian Research Group의 박사후 연구원이자 시스템 관련 논문의 첫 번째 저자인 물리학자 Sam Dillavou는 말합니다.출판됨~에국립과학원(National Academy of Sciences)의 간행물.

"우리가 정말 기대하는 것 중 하나는 네트워크 구조에 대한 지식이 없기 때문에 오류에 매우 관대하고 다양한 방식으로 만들어지는 데 매우 견고하며 이것이 많은 가능성을 열어준다는 것입니다.이러한 것들을 확장할 수 있는 기회가 있습니다."라고 공학 교수인 Marc Z. Miskin은 말합니다.

물리학 교수 Andrea J. Liu는 "생물학적 문제를 포함한 모든 종류의 문제에 대한 통찰력을 얻기 위해 연구할 수 있는 이상적인 모델 시스템이라고 생각합니다."라고 말했습니다.그녀는 또한 카메라, 마이크 등 처리가 필요한 데이터를 수집하는 장치와 인터페이스하는 데 도움이 될 수 있다고 말합니다.

논문에서 저자는 자사의 자가 학습 시스템이 "창발 학습을 연구할 수 있는 독특한 기회를 제공합니다., 두뇌를 포함하여 우리 시스템은 더 간단하고 잘 이해된 역학에 의존하고 정확하게 훈련 가능하며 간단한 모듈 구성 요소를 사용합니다."

이 연구는 Liu와 박사후 연구원 Menachem(Nachi) Stern이 고안한 결합 학습 프레임워크를 기반으로 합니다.2021년에 연구 결과 발표.이 패러다임에서 특정 작업을 수행하도록 설계되지 않은 물리적 시스템은 중앙 집중식 프로세서 없이 로컬 학습 규칙을 사용하면서 작업을 학습하기 위해 적용된 입력에 적응합니다.

Dillavou는 이 프로젝트를 위해 특별히 Penn에 왔으며 프레임워크를 시뮬레이션 작업에서 표준 회로 구성 요소를 사용하여 만들 수 있는 현재 물리적 설계 작업으로 변환하는 작업을 했다고 말했습니다.

Dillavou는 "이것에서 가장 열광적인 부분 중 하나는 실제로 스스로 학습한다는 것입니다. 우리는 단지 이를 준비하고 있을 뿐입니다"라고 말했습니다.연구원들은 입력으로 전압만 공급하며 노드를 연결하는 트랜지스터는 결합 학습 규칙에 따라 속성을 업데이트합니다.

"계산하고 학습하는 방식은 물리학을 기반으로 하기 때문에 해석이 훨씬 더 쉽습니다."라고 Miskin은 말합니다."기본 메커니즘을 잘 다루기 때문에 실제로 무엇을 하려는지 알아낼 수 있습니다. 다른 많은 학습 시스템은 네트워크가 왜 그런 일을 했는지 알기가 훨씬 어려운 블랙박스이기 때문에 그것은 일종의 독특합니다."

두리안은 자신의 연구실에 있는 또 다른 박사후 연구원인 로렌 알트만(Lauren Altman)이 대조적인 지역 학습 네트워크의 기계적인 버전을 구축하고 있다는 점을 언급하면서 이것이 "거대한 분야의 시작"이기를 희망한다고 말했습니다.

연구원들은 현재 설계 확장을 위해 노력하고 있으며 Liu는 메모리 저장 기간, 잡음 효과, 네트워크에 가장 적합한 아키텍처 및 더 나은 형태의 비선형성이 있는지 여부에 대해 많은 질문이 있다고 말합니다.

Miskin은 "학습 시스템을 확장하면서 어떤 변화가 일어나는지 명확하지 않습니다."라고 말합니다.

"뇌에 대해 생각해보면 300개의 뉴런을 가진 벌레와 인간 사이에는 엄청난 격차가 있습니다. 그리고 그러한 능력이 어디서 나타나는지, 규모가 커짐에 따라 상황이 어떻게 변하는지는 분명하지 않습니다. 더 크게 만들 수 있는 물리적 시스템을 갖고점점 더 커지는 것은 그것을 실제로 연구할 수 있는 기회입니다."

추가 정보:Sam Dillavou 외, 프로세서 없는 기계 학습: 비선형 아날로그 네트워크의 응급 학습,국립과학원(National Academy of Sciences)의 간행물(2024).DOI: 10.1073/pnas.2319718121

소환:기존 컴퓨터 프로세서 없이 비선형 작업을 학습하는 최초의 물리적 시스템(2024년 7월 8일)2024년 7월 8일에 확인함https://techxplore.com/news/2024-07-physical-nonlinear-tasks-traditional-processor.html에서

이 문서는 저작권의 보호를 받습니다.사적인 학습이나 조사를 목적으로 하는 공정한 거래를 제외하고는 어떠한 행위도 허용되지 않습니다.서면 허가 없이 일부를 복제할 수 있습니다.콘텐츠는 정보 제공 목적으로만 제공됩니다.