明尼苏达大学双城分校的工程研究人员展示了一种最先进的硬件设备，可以将人工智能 (AI) 计算应用的能耗降低至少 1,000 倍。

该研究是发表在npj 非常规计算标题为“基于磁隧道结的计算随机存取存储器的实验演示”。研究人员对该设备所使用的技术拥有多项专利。

随着对人工智能应用的需求不断增长，研究人员一直在寻找创建更节能流程的方法，同时保持高性能和低成本。通常，机器或人工智能进程在逻辑（系统内处理信息的地方）和内存（存储数据的地方）之间传输数据，消耗大量的电力和能源。

明尼苏达大学科学与工程学院的一组研究人员展示了一种新模型，其中数据永远不会离开内存，称为计算随机存取存储器 (CRAM)。

明尼苏达大学电气与计算机工程系的 Yang Lv 表示：“这项工作是 CRAM 的首次实验演示，数据可以完全在内存阵列内进行处理，而无需离开计算机存储信息的网格。”博士后研究员，论文第一作者。

国际能源署（IEA）发布全球能源使用预测2024 年 3 月，预测能源消耗人工智能的用电量可能会从 2022 年的 460 太瓦时 (TWh) 增加一倍，到 2026 年达到 1,000 太瓦时。这大致相当于日本整个国家的用电量。

据新论文的作者称，基于 CRAM 的机器学习推理加速器预计可实现 1,000 数量级的改进。另一个例子显示，与传统方法相比，节能达 2,500 倍和 1,700 倍。

这项研究已经进行了二十多年。

该论文的资深作者、电气与计算机工程系杰出 McKnight 教授兼 Robert F. Hartmann 系主任王建平表示：“20 年前，我们最初的想法是直接使用存储单元进行计算，这被认为是疯狂的。”明尼苏达大学。

“明尼苏达大学自 2003 年以来不断发展学生群体，并建立了一支真正的跨学科教师团队——来自物理学，材料科学工程、计算机科学与工程，到建模和基准测试，以及硬件创建——我们能够取得积极的成果，现在已经证明这种技术是可行的，并且已经准备好融入技术中，”王说。

这项研究是 Wang 及其合作者对磁隧道结 (MTJ) 器件的突破性专利研究基础上的长期连贯努力的一部分，MTJ 器件是用于改进硬盘驱动器、传感器和其他微电子系统的纳米结构器件，包括磁性随机存取存储器（MRAM），已用于微控制器和智能手表等嵌入式系统。

CRAM架构能够在内存中进行真正的计算，并打破计算和内存之间的壁垒作为传统冯诺依曼架构的瓶颈，冯诺依曼架构是一种存储程序计算机的理论设计，几乎是所有现代计算机的基础。

“作为一种极其节能的基于数字的内存计算基板，CRAM 非常灵活，可以在内存阵列中的任何位置执行计算。因此，我们可以重新配置 CRAM，以最好地满足各种不同计算机的性能需求。人工智能算法。”计算架构专家、该论文的合著者、明尼苏达大学电气与计算机工程系副教授 Ulya Karpuzcu 说道。

“它比当今人工智能系统的传统构建模块更加节能。”

CRAM 直接在内部执行计算记忆细胞Karpuzcu 解释说，有效地利用阵列结构，从而消除了缓慢且耗能的数据传输的需要。

最高效的短期随机访问记忆或 RAM 器件使用四个或五个晶体管来编码一个或一个零但一个 MTJ，这是一种自旋电子器件，可以用一小部分能量以更高的速度执行相同的功能，并且能够适应恶劣的环境。自旋电子器件利用电子的自旋而不是电荷存储数据，为传统基于晶体管的芯片提供更有效的替代方案。

目前，该团队一直计划与包括明尼苏达州在内的半导体行业领导者合作，提供大规模演示并生产硬件以推进人工智能功能。

除了 Lv、Wang 和 Karpuzcu 之外，该团队还包括明尼苏达大学电气与计算机工程系研究人员 Robert Bloom 和 Husrev Cilasun；杰出麦克奈特教授兼 Robert 和 Marjorie Henle 主席 Sachin Sapatnekar；以及前博士后研究员 Brandon Zink、Zamshed Chowdhury 和 Salonik Resch；与亚利桑那大学的研究人员一起：Pravin Khanal、Ali Habiboglu 和 Weigang Wang 教授。

更多信息：Yang Lv 等人，基于磁隧道结的计算随机存取存储器的实验演示，npj 非常规计算（2024）。DOI：10.1038/s44335-024-00003-3