AI 推論技術会社 BitEnergy AI のエンジニア チームは、AI アプリケーションのエネルギー需要を 95% 削減する方法を報告しています。同グループは、紙で彼らの新しいテクニックを説明するarXivプレプリントサーバー。
AI アプリケーションが主流になるにつれて、その使用が劇的に増加し、エネルギー需要とコストの顕著な増加につながりました。ChatGPT などの LLM は大量の計算能力を必要とするため、その実行には大量の電力が必要になります。
ほんの一例として、ChatGPT は現在、毎日約 564 MWh を必要とし、これはアメリカの 18,000 世帯に電力を供給するのに十分な量です。科学が進歩し続け、そのようなアプリの人気が高まるにつれ、批評家らは、AI アプリケーションがわずか数年で年間約 100 TWh を使用するようになり、これはビットコインのマイニング作業と同等になるのではないかと示唆しています。
この新たな取り組みにおいて、BitEnergy AI のチームは、AI アプリの実行に必要なコンピューティング量を、パフォーマンスの低下をもたらさずに大幅に削減する方法を発見したと主張しています。
新しい手法は基本的なもので、複素浮動小数点乗算 (FPM) を使用する代わりに、整数加算を使用します。アプリは FPM を使用して極端に大きい数値または小さい数値を処理し、アプリケーションがそれらの数値を使用して非常に高い精度で計算を実行できるようにします。これは、AI の数値処理において最もエネルギーを消費する部分でもあります。
研究者らは、新しい手法を「線形複雑性乗算」と呼んでいます。この手法は、整数の加算を使用して FPM を近似することによって機能します。彼らは、これまでのテストでは、新しいアプローチにより、電力需要95%増加しました。
唯一の欠点は、別のものが必要なことです。ハードウェア現在使用されているものよりも。しかし、研究チームは、新しいタイプのハードウェアがすでに設計、構築、テストされているとも指摘しています。
しかし、そのようなハードウェアがどのようにライセンスされるのかはまだ不明であり、現在、GPU メーカーである Nvidia が AI ハードウェア市場を独占しています。同社の主張が検証されれば、この新技術に企業がどのように対応するかが、その採用ペースに大きな影響を与える可能性がある。
詳細情報:Honyin Luo 他、エネルギー効率の高い言語モデルに必要なのは加算のみ、arXiv（2024年）。DOI: 10.48550/arxiv.2410.00907
雑誌情報: arXiv
© 2024 サイエンス X ネットワーク
引用:整数加算アルゴリズムにより AI のエネルギー需要を 95% 削減できる可能性 (2024 年 10 月 12 日)2024 年 10 月 12 日に取得https://techxplore.com/news/2024-10-integer-addition-algorithm-energy-ai.html より
この文書は著作権の対象です。個人的な研究や研究を目的とした公正な取引を除いて、書面による許可なく一部を複製することができます。コンテンツは情報提供のみを目的として提供されています。