AI 추론 기술 회사인 BitEnergy AI의 엔지니어 팀은 AI 애플리케이션의 에너지 요구 사항을 95%까지 줄이는 방법을 보고합니다.그룹은종이그들의 새로운 기술을 설명합니다.arXiv사전 인쇄 서버.

AI 애플리케이션이 주류로 자리잡으면서 그 사용이 급격히 증가하여 에너지 수요와 비용이 눈에 띄게 증가했습니다.ChatGPT와 같은 LLM에는 많은 컴퓨팅 성능이 필요하며 이는 이를 실행하는 데 많은 전력이 필요함을 의미합니다.

한 가지 예로서, ChatGPT는 이제 매일 약 564MWh를 필요로 하며 이는 미국 18,000가구에 전력을 공급하기에 충분한 양입니다.과학이 계속 발전하고 이러한 앱이 더욱 대중화됨에 따라 비평가들은 AI 애플리케이션이 단 몇 년 안에 비트코인 ​​채굴 작업과 맞먹는 연간 약 100TWh를 사용할 수 있다고 제안했습니다.

이 새로운 노력에서 BitEnergy AI 팀은 성능 저하를 초래하지 않으면서 AI 앱을 실행하는 데 필요한 컴퓨팅 양을 극적으로 줄이는 방법을 찾았다고 주장합니다.

새로운 기술은 기본입니다. 복잡한 부동 소수점 곱셈(FPM)을 사용하는 대신 정수 덧셈을 사용하는 방법입니다.앱은 FPM을 사용하여 매우 크거나 작은 숫자를 처리하므로 애플리케이션이 FPM을 사용하여 극도의 정밀도로 계산을 수행할 수 있습니다.이는 AI 숫자 처리에서 가장 에너지 집약적인 부분이기도 합니다.

연구원들은 새로운 방법을 선형 복잡도 곱셈(Linear-Complexity Multiplication)이라고 부릅니다. 이 방법은 정수 덧셈을 사용하여 FPM을 근사하는 방식으로 작동합니다.그들은 지금까지 테스트를 통해 새로운 접근 방식이전기 수요95%.

한 가지 단점은 다른 방법이 필요하다는 것입니다.하드웨어현재 사용중인 것보다그러나 연구팀은 또한 새로운 유형의 하드웨어가 이미 설계, 제작 및 테스트되었다고 지적합니다.

그러나 이러한 하드웨어의 라이선스가 어떻게 부여될지는 아직 불분명합니다. 현재 GPU 제조업체인 Nvidia가 AI 하드웨어 시장을 장악하고 있습니다.회사의 주장이 검증된다면 이 신기술에 대한 기업의 대응 방식은 기술 채택 속도에 큰 영향을 미칠 수 있습니다.

© 2024 사이언스 X 네트워크