ChatGPT와 같은 인공 지능(AI) 모델은 알고리즘에서 실행되며 기계 학습을 통해 처리하는 데이터에 대한 수요가 높습니다. 하지만 데이터 처리 능력의 한계는 어떻습니까?북경 대학교 집적 회로 학교 및 인공 지능 연구소의 Sun Zhong 교수가 이끄는 연구원들은 데이터 처리를 제한하는 폰 노이만 병목 현상을 해결하기 시작했습니다.

그들의 논문에서출판됨일지에장치2024년 9월 12일, 팀은 듀얼 IMC(인메모리 컴퓨팅) 방식을 개발했습니다.기계 학습프로세스를 개선할 뿐만 아니라 기존 데이터 작업의 에너지 효율성도 향상시킵니다.

알고리즘을 큐레이팅할 때,소프트웨어 엔지니어컴퓨터 과학자들은 행렬-벡터 곱셈(MVM)으로 알려진 데이터 연산에 의존합니다.신경망.신경망은 인간 두뇌의 기능과 구조를 모방하는 AI 모델에서 흔히 볼 수 있는 컴퓨팅 아키텍처입니다.

데이터 세트의 규모가 빠르게 증가함에 따라 데이터 이동과 데이터 처리 및 전송 속도 불일치로 인해 컴퓨팅 성능이 제한되는 경우가 많습니다.이를 폰 노이만 병목 현상이라고 합니다.기존 솔루션은 단일 IMC(Single-IMC) 방식으로, 신경망 가중치는 메모리 칩에 저장되고 입력(예: 이미지)은 외부에서 제공됩니다.

그러나 단일 IMC에 대한 주의 사항은 온칩과 오프칩 데이터 전송 사이의 전환과 디지털-아날로그 변환기(DAC) 사용으로 인해 큰 회로 공간과 높은 전력 소비가 발생한다는 것입니다.

IMC 원리의 잠재력을 완전히 실현하기 위해 팀은 신경망의 가중치와 입력을 메모리 어레이에 저장하여 완전히 메모리 내 방식으로 데이터 작업을 수행하는 듀얼 IMC 방식을 개발했습니다.

그런 다음 팀은 신호 복구 및 이미지 처리를 위해 저항성 랜덤 액세스 메모리(RRAM) 장치에서 듀얼 IMC를 테스트했습니다.MVM 작업에 적용할 때 듀얼 IMC 체계의 몇 가지 이점은 다음과 같습니다.

1. 완전한 인메모리 계산으로 효율성이 향상되어 오프칩 DRAM(동적 랜덤 액세스 메모리) 및 온칩 SRAM(정적 랜덤 액세스 메모리)으로 인해 발생하는 시간과 에너지가 절약됩니다.
2. 제한 요소였던 데이터 이동이 완전한 인메모리 방식을 통해 제거되므로 컴퓨팅 성능이 최적화됩니다.
3. 단일 IMC 방식에 필요한 DAC가 제거되어 생산 비용이 절감됩니다.이는 또한 칩 면적, 컴퓨팅 대기 시간 및 전력 요구 사항을 절약하는 것을 의미합니다.

급격한 수요 증가로데이터-오늘날 디지털 시대의 처리 과정에서 본 연구의 발견은 컴퓨팅 아키텍처와 인공 지능에 새로운 혁신을 가져올 수 있습니다.