존 J. 홉필드그리고제프리 E. 힌턴에 대한 연구로 2024년 10월 8일 노벨 물리학상을 받았습니다.컴퓨터의 학습을 돕는 기계 학습 알고리즘과 신경망.그들의 연구는 생성 인공 지능을 뒷받침하는 신경망 이론을 개발하는 데 있어 근본적인 역할을 했습니다.

신경망은계산 모델상호 연결된 뉴런의 층으로 구성됩니다.처럼뇌의 뉴런, 이 뉴런은 정보 조각을 처리하고 함께 보냅니다.각 신경 계층은 데이터 조각을 받아 처리한 후 결과를 다음 계층으로 전달합니다.시퀀스가 끝날 때쯤 네트워크는 데이터를 더 유용한 것으로 처리하고 정제했습니다.

Hopfield와 Hinton이 컴퓨터 과학에 사용되는 신경망에 대한 기여로 물리학상을 받은 것이 놀랍게 보일 수도 있지만, 그들의 연구는 물리학의 원리, 특히 다음과 같은 하위 분야에 깊이 뿌리를 두고 있습니다.통계 역학.

전산으로서재료 과학자, 저는 이 연구 분야가 수상으로 인정받는 것을 보고 매우 기뻤습니다.Hopfield와 Hinton의 작업을 통해 나와 동료들은 생성 학습이라는 프로세스를 연구할 수 있었습니다.재료 과학, ChatGPT와 같은 많은 인기 기술의 기반이 되는 방법입니다.

통계 역학이란 무엇입니까?

통계역학은 통계적 방법을 사용하여 수많은 입자로 구성된 시스템의 동작을 설명하는 물리학의 한 분야입니다.

개별 입자에 초점을 맞추는 대신 연구자들은 다음을 사용합니다.통계 역학많은 입자의 집단적 행동을 살펴보십시오.이들 모두가 어떻게 함께 작동하는지 확인하는 것은 연구자들이 온도, 압력 및 자화와 같은 시스템의 대규모 거시적 특성을 이해하는 데 도움이 됩니다.

예를 들어,물리학자 에른스트 아이싱1920년대에 자기에 대한 통계 역학 모델을 개발했습니다.상상의 자기를 집단적 행동으로 본다.원자 스핀이웃과 교류하고 있습니다.

Ising의 모델에서, 시스템에는 더 높은 에너지 상태와 더 낮은 에너지 상태가 있으며 물질은 가장 낮은 에너지 상태에 존재할 가능성이 더 높습니다.

통계역학의 핵심 아이디어 중 하나는볼츠만 분포, 이는 주어진 상태가 얼마나 가능성이 있는지를 정량화합니다.이 분포는 에너지와 온도를 기준으로 시스템이 고체, 액체, 기체와 같은 특정 상태에 있을 확률을 설명합니다.

볼츠만 분포를 사용하여 자석의 위상 전이를 정확하게 예측했습니다.그는 물질이 자성에서 비자성으로 변하는 온도를 알아냈습니다.

예측 가능한 온도에서 상 변화가 발생합니다.볼츠만 분포는 얼음이 따뜻해지면 얼음이 녹아서 물로 변한다고 예측하기 때문에 특정 온도에서 얼음이 녹습니다.물 분자무질서하거나 액체 상태가 될 가능성이 더 높습니다.

물질에서 원자는 다음과 같은 형태로 배열됩니다.특정 결정 구조가장 적은 양의 에너지를 사용하는 것입니다.날씨가 추울 때 물 분자는 에너지 상태가 낮은 얼음 결정으로 얼어붙습니다.

마찬가지로 생물학에서는단백질은 저에너지 형태로 접힌다이는 바이러스를 표적으로 삼는 자물쇠와 열쇠와 같은 특정 항체로 기능할 수 있게 해줍니다.

신경망 및 통계 역학

기본적으로 모든 신경망은 에너지를 최소화하는 유사한 원리로 작동합니다.신경망은 이 원리를 사용하여 컴퓨팅 문제를 해결합니다.

예를 들어, 사진의 일부만 볼 수 있는 픽셀로 구성된 이미지를 상상해 보세요.일부 픽셀은 표시되고 나머지는 숨겨집니다.이미지가 무엇인지 결정하려면 숨겨진 픽셀이 보이는 조각과 함께 들어갈 수 있는 가능한 모든 방법을 고려합니다.거기에서 통계 역학이 말하는 모든 가능한 옵션 중에서 가장 가능성이 높은 상태 중에서 선택하게 됩니다.

Hopfield와 Hinton은 통계 역학의 아이디어를 바탕으로 신경망 이론을 개발했습니다.신경망으로 사진 문제를 해결하기 위해 원자 스핀의 집단적 상호작용을 모델링한 이전의 Ising과 마찬가지로 Hopfield와 Hinton도 픽셀의 집단적 상호작용을 상상했습니다.그들은 이러한 픽셀을 뉴런으로 표현했습니다.

통계 물리학에서와 마찬가지로 이미지의 에너지는 특정 픽셀 구성의 가능성을 나타냅니다.홉필드 네트워크숨겨진 픽셀의 가장 낮은 에너지 배열을 찾아 이 문제를 해결할 것입니다.

그러나 통계역학과는 달리에너지알려진 원자 상호작용에 의해 결정됩니다. 신경망은 데이터로부터 이러한 에너지를 학습합니다.

힌튼역전파(backpropagation)라는 기술의 개발이 대중화되었습니다..이 기술은 모델이 이러한 뉴런 간의 상호 작용 에너지를 파악하는 데 도움이 되며, 이 알고리즘은 현대 AI 학습의 많은 부분을 뒷받침합니다.

볼츠만 머신

Hopfield의 연구를 바탕으로 Hinton은 또 다른 신경망을 상상했습니다.볼츠만 기계.이는 우리가 관찰할 수 있는 눈에 보이는 뉴런과 네트워크가 복잡한 패턴을 학습하는 데 도움이 되는 숨겨진 뉴런으로 구성됩니다.

볼츠만 머신에서는 그림이 특정 방식으로 보일 확률을 확인할 수 있습니다.이 확률을 파악하기 위해 숨겨진 픽셀이 있을 수 있는 모든 가능한 상태를 요약할 수 있습니다. 이를 통해 보이는 픽셀이 특정 배열에 있을 전체 확률을 알 수 있습니다.

우리 그룹은 다음 작업을 수행했습니다.생성 학습을 위해 양자 컴퓨터에 볼츠만 머신을 구현합니다.

생성 학습에서 네트워크는 연구원이 네트워크를 훈련시키기 위해 제공한 데이터와 유사한 새로운 데이터 샘플을 생성하는 방법을 학습합니다.예를 들어, 유사한 이미지에 대해 훈련을 받은 후 손으로 쓴 숫자의 새로운 이미지를 생성할 수 있습니다.네트워크는 학습된 확률 분포에서 샘플링하여 이를 생성할 수 있습니다.

생성 학습은 현대 AI를 뒷받침합니다.AI 아트, 비디오 및 텍스트.

Hopfield와 Hinton은 통계 물리학의 도구를 활용하여 AI 연구에 큰 영향을 미쳤습니다.그들의 연구는 자연이 물질의 물리적 상태를 결정하는 방식과신경망복잡한 컴퓨터 과학 문제에 대한 해결책의 가능성을 예측합니다.

이 기사는 다음에서 재출판되었습니다.대화크리에이티브 커먼즈 라이센스에 따라.읽기원본 기사.