分类
斯坦福大学新闻

斯坦福大学的研究人员将多个混合芯片上的处理器和内存结合起来,在电池驱动的智能设备上运行人工智能

在传统电子技术中,单独的芯片处理和存储数据,在工程师称之为“记忆墙”的地方来回传输数据,浪费能源。新的算法结合了几个节能的混合芯片,创造了一个巨型人工智能芯片的假象。

如果智能手表和其他电池驱动的电子产品能够运行人工智能算法,它们将变得更加智能。但迄今为止,为移动设备打造具备人工智能能力的芯片的努力遇到了瓶颈——所谓的“内存墙”,它将数据处理和内存芯片分隔开来,它们必须协同工作,以满足人工智能带来的大量且持续增长的计算需求。

glowing computer chip

硬件和软件的创新让8个芯片产生错觉,以为它们是一个巨型芯片,一起运行人工智能。(图片来源:Stocksy / Drea Sullivan)

“处理器和内存之间的交易可能会消耗机器学习和人工智能所需能量的95%,这严重限制了电池寿命,”发表在《自然电子》(Nature Electronics)上的一项新研究的资深作者、计算机科学家Subhasish Mitra说。

现在,一个包括斯坦福大学计算机科学家Mary wooters和电气工程师h.s。Philip Wong设计了一个系统,通过利用8个混合芯片,每个芯片都有自己的数据处理器,就建在自己的内存存储器旁边,这个系统可以更快地运行人工智能任务,消耗更少的能源。

这篇论文建立在该团队先前开发的一种新的存储器技术的基础上,这种技术被称为RRAM,它可以在断电的情况下存储数据——就像闪存一样——只是速度更快,能源效率更高。他们的RRAM技术的进步使斯坦福大学的研究人员能够开发出独立工作的早期混合芯片。他们的最新设计包含了一个关键的新元素:将8个分离的混合芯片融合成一个节能的人工智能处理引擎的算法。

米特拉说:“如果我们能够制造出一种具有所有处理和内存需求的大型传统芯片,我们就会这么做,但解决人工智能问题需要的数据量让这成为一个梦想。”“相反,我们欺骗混合体,让它们认为自己是一块芯片,这就是我们称之为错觉系统的原因。”

研究人员发明这种错觉是“电子复苏计划”(ERI)的一部分,该计划由美国国防高级研究计划局资助,总投资15亿美元。美国国防部高级研究计划局(DARPA)在50多年前帮助催生了互联网,现在正支持研究摩尔定律(Moore ‘s Law)的替代方案。摩尔定律通过缩小晶体管来推动电子技术的进步。但晶体管不可能永远收缩。

“要超越传统电子技术的极限,我们需要新的硬件技术和如何使用它们的新想法,”wooters说。

斯坦福领导的团队在法国研究机构CEA-Leti和新加坡南洋理工大学的合作者的帮助下建造并测试了它的原型。该团队的八芯片系统仅仅是个开始。在模拟中,研究人员展示了使用64块混合芯片的系统运行人工智能应用程序的速度是目前处理器的七倍,消耗的能量是目前的七分之一。

这些功能可能有一天使幻觉系统成为增强的大脑和虚拟现实眼镜,使用深层神经网络学习识别对象和环境的人,并为使用者提供上下文信息,想象一个AR / VR系统来帮助观鸟者识别未知标本。

斯坦福大学研究生Robert Radway是《自然电子》研究的第一作者,他说,该团队还开发了新的算法来重新编译现有的人工智能程序,这些程序是为今天的处理器编写的,以运行在新的多芯片系统上。Facebook的合作者帮助该团队测试人工智能程序,以验证他们的努力。下一步将包括提高单个混合芯片的处理和存储能力,并演示如何廉价批量生产它们。

Wong说:“事实上,我们制造的原型正如我们预期的那样工作,这表明我们走在正确的道路上。”他相信幻觉系统将在三到五年内投入市场。

Subhasish Mitra是电子工程和计算机科学的教授。Mary wooters是计算机科学和电子工程的助理教授。H.-S。Philip Wong是工程学院的Willard R. and Inez Kerr Bell教授。其他合著者包括研究生Andrew Bartolo, Paul C. Jolly, Zainab F. Khan, Pulkit Tandon, Xin Yunfeng和Tony Wu。圣何塞州立大学的研究人员;CEA-Leti,法国格勒诺布尔;Facebook Inc.,门洛帕克;新加坡南洋理工大学(Nanyang Technological University)也对这篇论文做出了贡献。

这项研究得到了国防高级研究计划局(DARPA),国家科学基金会,半导体研究公司,斯坦福系统x联盟和英特尔公司的支持。

要阅读所有关于斯坦福科学的故事,请订阅双周刊《斯坦福科学文摘》。

新闻旨在传播有益信息,英文原版地址:https://news.stanford.edu/2021/01/11/hybrid-chips-can-run-ai-battery-powered-devices/