|
|
明尼苏达大学双城分校的工程研究人员展示了一种最先进的硬件设备，它可以将人工智能 (AI) 计算应用的能耗降低至少 1,000 倍。
这项研究发表在《npj 非传统计算》杂志上，题为“基于磁隧道结的计算随机存取存储器的实验演示”。研究人员拥有该设备所用技术的多项专利。
随着对人工智能应用的需求不断增长，研究人员一直在寻找方法来创建更节能的流程，同时保持高性能和低成本。通常，机器或人工智能流程在逻辑（系统内处理信息的地方）和内存（存储数据的地方）之间传输数据，消耗大量的电力和能源。
明尼苏达大学科学与工程学院的一组研究人员展示了一种数据永远不会离开内存的新模型，称为计算随机存取存储器（CRAM）。
明尼苏达大学电气与计算机工程系博士后研究员、论文第一作者杨吕表示：“这项工作是 CRAM 的首次实验演示，其中数据可以完全在存储器阵列内处理，而无需离开计算机存储信息的网格。”
国际能源署（IEA）于2024年3月发布了全球能源使用预测，预测人工智能的能源消耗可能会从2022年的460太瓦时（TWh）增加一倍至2026年的1,000 TWh。这大致相当于日本整个国家的电力消耗。
据新论文作者称，基于 CRAM 的机器学习推理加速器估计可实现 1,000 量级的改进。另一个例子显示，与传统方法相比，能源节省了 2,500 倍和 1,700 倍。
这项研究已经进行了二十多年。
“我们 20 年前直接使用存储单元进行计算的最初想法被认为是疯狂的”，该论文的资深作者、明尼苏达大学电气与计算机工程系杰出麦克奈特教授兼 Robert F. Hartmann 主席王建平 (Jian-Ping Wang) 说道。
王说：“自 2003 年以来，随着学生群体的不断发展，以及明尼苏达大学建立起一支真正的跨学科教师团队——从物理学、材料科学与工程、计算机科学与工程到建模和基准测试以及硬件创建——我们能够取得积极的成果，现在已经证明这种技术是可行的，并且已经准备好融入技术中。”
CRAM 概念、特征和潜在应用的说明。来源：npj Unconventional Computing (2024)。DOI：10.1038/s44335-024-00003-3
这项研究是王教授及其同事在磁隧道结 (MTJ) 器件方面的开创性专利研究的长期连贯努力的一部分，MTJ 器件是一种纳米结构器件，用于改进硬盘、传感器和其他微电子系统，包括磁性随机存取存储器 (MRAM)，它已用于微控制器和智能手表等嵌入式系统。
CRAM 架构实现了真正的在内存中进行计算，打破了传统冯·诺依曼架构中计算与内存之间的瓶颈——冯·诺依曼架构是一种存储程序计算机的理论设计，是几乎所有现代计算机的基础。
“作为一种极其节能的数字内存计算基板，CRAM 非常灵活，可以在内存阵列的任何位置执行计算。因此，我们可以重新配置 CRAM，以最好地满足各种 AI 算法的性能需求，”计算架构专家、论文合著者、明尼苏达大学电气与计算机工程系副教授 Ulya Karpuzcu 表示。
“它比当今人工智能系统的传统构建模块更节能。”
Karpuzcu 解释说，CRAM 直接在存储单元内进行计算，有效利用阵列结构，从而无需缓慢且耗能的数据传输。
最高效的短期随机存取存储器（RAM）使用四到五个晶体管来编码 1 或 0，但 MTJ（一种自旋电子器件）却能以极低的能量执行相同的功能，速度更快，并且能够适应恶劣环境。自旋电子器件利用电子自旋而不是电荷来存储数据，为传统基于晶体管的芯片提供了更高效的替代方案。
目前，该团队一直计划与明尼苏达州等半导体行业领导者合作，提供大规模演示并生产硬件以推进人工智能功能。
除了 Lv、Wang 和 Karpuzcu，团队成员还包括明尼苏达大学电气与计算机工程系的研究人员 Robert Bloom 和 Husrev Cilasun、杰出 McKnight 教授兼 Robert and Marjorie Henle 主席 Sachin Sapatnekar、前博士后研究员 Brandon Zink、Zamshed Chowdhury 和 Salonik Resch，以及亚利桑那大学的研究人员：Pravin Khanal、Ali Habiboglu 和 Weigang Wang 教授。
|
|
发表于 2024-7-29 08:00:13