工程研究人员推出了一种先进的硬件设备，有潜力将人工智能（AI）计算应用的能量使用降低至少1,000倍。
明尼苏达大学双城校区的研究人员揭示了一种先进的硬件设备，可以显著降低AI计算应用的能耗，减少的幅度至少达到1,000倍。
这项研究已发表在《npj非传统计算》上，这是一本由Nature出版的同行评审期刊。团队拥有该设备背后的多项技术专利。
随着AI应用的激增，研究人员致力于开发提升能量效率的过程，而不牺牲性能或增加成本。通常，AI过程涉及逻辑（核心处理单元）与内存（存储信息的地方）之间的数据移动，导致相当大的电力消耗。
明尼苏达大学科学与工程学院的一组研究人员开发了一种名为计算随机存取内存（CRAM）的模型，其中数据完全在内存中处理，消除了传输的需要。
明尼苏达大学电气与计算机工程系的博士后研究员、论文第一作者杨露解释说：“这是CRAM的首次实验示范，它允许数据处理直接在内存阵列中进行，而无需退出计算机的存储区域。”
根据国际能源署（IEA）的数据，2024年3月发布的全球能源预测显示，AI的能量使用可能会从2022年的460太瓦时（TWh）在2026年翻倍至1,000 TWh，约等于日本的电力使用量。
研究的作者估计，基于CRAM的机器学习推理加速器效率提高可达到1,000倍。另一例中与传统方法相比，能源节省达到了2,500倍和1,700倍。
这项研究历时超过二十年才得以发展。
论文的资深作者、明尼苏达大学电气与计算机工程系的杰出麦克奈特教授兼罗伯特·F·哈特曼教授的王建平表示：“我们二十年前使用存储单元进行处理的初衷被认为是遥不可及的。”
王补充说：“多年来，自2003年以来，我们的学生团队不断发展，加上来自物理学、材料科学到计算机科学和工程等各个领域的真正跨学科的教师团队，使我们取得了显著的成果，现在能够展示这项技术在现实世界应用中的可行性。”
这项研究构建在王与其合作者在磁隧道结（MTJ）领域的早期开创性工作之上。这些纳米结构设备增强了硬盘、传感器以及其他微电子产品，例如用于微控制器和智能手表的磁性随机存取内存（MRAM）。
CRAM架构允许真正的计算在内存内部发生，解决了冯·诺依曼架构中计算与内存分离所造成的传统瓶颈，冯·诺依曼架构是大多数现代计算机的基础设计。
明尼苏达大学电气与计算机工程系的副教授、论文合著者尤利亚·卡普祖库表示：“借助CRAM作为一种高度节能的数字计算框架，计算可以在内存阵列的任何地方进行。这种灵活性使我们能够调整CRAM以满足不同AI算法的多样性能要求。它比当前用于AI系统的其他常规组件显著更节能。”
卡普祖库解释道，CRAM直接在内存单元中执行计算，优化了阵列结构，消除慢且耗电的数据传输需求。
传统上，最有效的短期RAM设备依赖四到五个晶体管来编码数据，而单个MTJ（自旋电子器件）可以使用更少的能量和更高的速度实现相同的功能，同时能够抵抗极端条件。自旋电子器件利用电子的自旋而非电荷来存储信息，提供了比标准晶体管芯片更高效的选择。
目前，研究团队正在与领先半导体公司合作，包括明尼苏达州的公司，以进行大规模示范并制造将增强AI能力的硬件。
除了杨露、王建平和卡普祖库，研究团队还包括明尼苏达大学电气与计算机工程系的研究人员罗伯特·布卢姆和胡斯雷夫·奇拉孙；杰出麦克奈特教授萨钦·萨帕特内卡；前博士后研究员布兰登·辛克、扎姆谢德·乔杜里和萨洛尼克·雷施；以及来自亚利桑那大学的合作者，包括普拉文·卡纳尔、阿里·哈比博格鲁和韦刚·王教授。
该项目获得了美国国防高级研究计划局（DARPA）、国家标准与技术研究院（NIST）、国家科学基金会（NSF）和思科公司的资助。纳米设备的图案化研究是与明尼苏达纳米中心合作进行的，模拟和计算工作在明尼苏达大学超级计算研究所完成。要查看完整的研究文章《磁隧道结基础的计算随机存取内存的实验演示》，请访问《npj非传统计算》网站。
