明尼蘇達大學雙城分校的工程研究人員展示了一種最先進的硬體設備，可以將人工智慧 (AI) 運算應用的能耗降低至少 1,000 倍。

該研究是發表在npj 非常規計算標題為「基於磁隧道結的計算隨機存取記憶體的實驗演示」。研究人員對該設備所使用的技術擁有多項專利。

隨著對人工智慧應用的需求不斷增長，研究人員一直在尋找創建更節能流程的方法，同時保持高效能和低成本。通常，機器或人工智慧進程在邏輯（系統內處理資訊的地方）和記憶體（儲存數據的地方）之間傳輸數據，消耗大量的電力和能源。

明尼蘇達大學科學與工程學院的一組研究人員展示了一種新模型，其中資料永遠不會離開內存，稱為計算隨機存取記憶體 (CRAM)。

明尼蘇達大學電機與電腦工程系的 Yang Lv 表示：「這項工作是 CRAM 的首次實驗演示，數據可以完全在記憶體陣列內進行處理，而無需離開電腦儲存資訊的網格。」博士後研究員，論文第一作者。

國際能源總署（IEA）發布全球能源使用預測2024 年 3 月，預測能源消耗人工智慧的用電量可能會從 2022 年的 460 太瓦時 (TWh) 增加一倍，到 2026 年達到 1,000 太瓦時。

據新論文的作者稱，基於 CRAM 的機器學習推理加速器預計可實現 1,000 數量級的改進。另一個例子顯示，與傳統方法相比，節能達 2,500 倍和 1,700 倍。

這項研究已經進行了二十多年。

論文的資深作者、電氣與電腦工程系傑出 McKnight 教授兼 Robert F. Hartmann 系主任王建平表示：「20 年前，我們最初的想法是直接使用儲存單元進行計算，這被認為是瘋狂的。」明尼蘇達大學。

「明尼蘇達大學自 2003 年以來不斷發展學生群體，並建立了一支真正的跨學科教師團隊——來自物理學，材料科學工程、電腦科學與工程，到建模和基準測試，以及硬體創建——我們能夠取得積極的成果，現在已經證明這種技術是可行的，並且已經準備好融入技術中，」王說。

這項研究是Wang 及其合作者對磁性隧道結(MTJ) 裝置的突破性專利研究基礎上的長期連貫努力的一部分，MTJ 裝置是用於改進硬碟、感測器和其他微電子系統的奈米結構裝置，包括磁性隨機存取記憶體（MRAM），已用於微控制器和智慧手錶等嵌入式系統。

CRAM架構能夠在內存中進行真正的計算，並打破計算和內存之間的壁壘作為傳統馮諾依曼架構的瓶頸，馮諾依曼架構是一種存儲程序計算機的理論設計，幾乎是所有現代計算機的基礎。

「作為一種極其節能的基於數字的記憶體計算基板，CRAM 非常靈活，可以在記憶體陣列中的任何位置執行計算。因此，我們可以重新配置 CRAM，以最好地滿足各種不同電腦的效能需求。人工智慧演算法。

“它比當今人工智慧系統的傳統構建模組更加節能。”

CRAM 直接在內部執行計算記憶細胞Karpuzcu 解釋說，有效地利用陣列結構，從而消除了緩慢且耗能的資料傳輸的需要。

最高效的短期隨機訪問記憶或RAM 裝置使用四個或五個電晶體來編碼一個或一個零但一個MTJ，這是一種自旋電子裝置，可以用一小部分能量以更高的速度執行相同的功能，並且能夠適應惡劣的環境。自旋電子裝置利用電子的自旋而不是電荷儲存數據，為傳統基於電晶體的晶片提供更有效的替代方案。

目前，該團隊一直計劃與包括明尼蘇達州在內的半導體行業領導者合作，提供大規模演示並生產硬體以推進人工智慧功能。

除了 Lv、Wang 和 Karpuzcu 之外，團隊還包括明尼蘇達大學電機與電腦工程系研究人員 Robert Bloom 和 Husrev Cilasun；傑出麥克奈特教授兼 Robert 和 Marjorie Henle 主席 Sachin Sapatnekar；以及前博士後研究員 Brandon Zink、Zamshed Chowdhury 和 Salonik Resch；與亞利桑那大學的研究人員：Pravin Khanal、Ali Habiboglu 和 Weigang Wang 教授。

更多資訊：Yang Lv 等人，基於磁隧道結的計算隨機存取記憶體的實驗演示，npj 非常規計算（2024）。DOI：10.1038/s44335-024-00003-3