虽然大部分科技界仍然专注于由 Nvidia GPU 提供支持的最新大型语言模型,但 AI 硬件正在酝酿一场更安静的革命。随着传统深度学习架构的局限性和能源需求变得越来越明显,一种称为神经形态计算的新范式正在出现,这种范式有望将人工智能的计算和功率需求削减几个数量级。
但究竟什么是神经形态系统?为了找到答案,我采访了神经形态芯片领域的领先初创公司Innatera的首席执行官兼创始人Sumeet Kumar。
“神经形态处理器旨在模仿生物大脑处理信息的方式,”库马尔解释说。“神经形态芯片不是对存储在内存中的数据执行顺序操作,而是使用人工神经元网络,这些神经元通过尖峰进行通信,就像真正的神经元一样。
这种类脑架构为神经形态系统提供了独特的优势,特别是对于消费类设备和工业物联网中的边缘计算应用。Kumar 强调了几个引人注目的用例,包括用于语音激活的始终在线音频处理、用于机器人和自主系统的实时传感器融合,以及超低功耗计算机视觉。
“关键是神经形态处理器可以使用传统解决方案的一小部分能量来执行复杂的人工智能任务,”Kumar指出。“这使得电池供电设备中的持续环境意识等功能成为可能,这在以前是不可能实现的。”
Innatera 的旗舰产品 Spikeking 神经处理器 T1 于 2024 年 1 月推出,体现了这些优势。T1 将事件驱动的计算引擎与传统的 CNN 加速器和 RISC-V CPU 相结合,为电池供电设备中的超低功耗 AI 创建了一个综合平台。
“与传统方法相比,我们的神经形态解决方案可以以少 500 倍的能量执行计算,”Kumar 说。“我们看到模式识别速度比竞争对手快约 100 倍。”
Kumar 用一个引人注目的实际应用来说明这一点。Innatera 与日本传感器供应商 Socionext 合作,开发了一种用于人体存在检测的创新解决方案。Kumar 在 1 月份的 CES 上展示了这项技术,它将雷达传感器与 Innatera 的神经形态芯片相结合,以创建高效、保护隐私的设备。
“以可视门铃为例,”库马尔解释说。“传统图像传感器使用耗电的图像传感器,需要经常充电。我们的解决方案使用雷达传感器,其能效要高得多。即使一个人一动不动,只要他们有心跳,该系统就可以检测到人类的存在。由于是非成像的,它可以保护隐私,直到需要激活相机。
这项技术在门铃之外还有广泛的应用,包括智能家居自动化、建筑安全,甚至车辆的占用检测。“这是神经形态计算如何改变日常设备的完美例子,”库马尔指出。“我们正在将人工智能功能带到边缘,同时实际上降低了功耗并增强了隐私。”
这些在能源效率和速度方面的巨大改进正在推动行业的巨大兴趣。Kumar 透露,Innatera 正在进行多个客户互动,对神经形态技术的吸引力稳步增长。该公司瞄准传感器边缘应用市场,其雄心勃勃的目标是到 2030 年为 10 亿台设备带来智能。
为了满足这一不断增长的需求,Innatera 正在提高产量。Spiking 神经处理器计划于 2024 年晚些时候投入生产,并于 2025 年第二季度开始大批量交付。这一时间表反映了该公司自 2018 年从代尔夫特理工大学分拆出来以来取得的快速进展。在短短六年的时间里,Innatera 已经发展到大约 75 名员工,最近还任命了 Apple 前副总裁 Duco Pasmooij 为他们的顾问委员会成员。
该公司最近完成了2100万美元的A轮融资,以加速其脉冲神经处理器的开发。本轮融资获得超额认购,投资者包括Innavest、InvestNL、EIC Fund和MIG Capital。这种强大的投资者支持凸显了人们对神经形态计算日益增长的兴奋。
Kumar 设想了一个未来,神经形态芯片越来越多地在边缘处理 AI 工作负载,而更大的基础模型则留在云端。“有一种天然的互补性,”他说。“神经形态学擅长快速、高效地处理真实世界的传感器数据,而大型语言模型更适合推理和知识密集型任务。”
“这不仅仅是关于原始计算能力,”库马尔观察到。“大脑取得了非凡的智力壮举,而我们目前人工智能系统所需的能量只是其中的一小部分。这就是神经形态计算的前景——人工智能不仅能力更强,而且效率大大提高。
Kumar 强调了一个可以加速其神经形态技术采用的关键因素:对开发人员友好的工具。Kumar解释说:“我们已经构建了一个非常广泛的软件开发套件,使应用程序开发人员能够轻松地针对我们的芯片。
Innatera 的 SDK 使用 PyTorch 作为前端。“实际上,你完全是在标准的PyTorch环境中开发神经网络的,”Kumar指出。“因此,如果你知道如何在PyTorch中构建神经网络,你就已经可以使用SDK来针对我们的芯片。
这种方法大大降低了已经熟悉流行机器学习框架的开发人员的入门门槛。它使他们能够利用现有的技能和工作流程,同时利用神经形态计算的力量和效率。
Kumar补充说:“这是一种简单的交钥匙、标准且非常快速的方式,可以在我们的芯片上构建和部署应用程序,”他强调了Innatera的技术在广泛的人工智能应用中快速采用和集成的潜力。
虽然大型语言模型占据了头条新闻,但行业领导者正在悄悄地承认需要全新的芯片架构。值得一提的是,OpenAI 首席执行官山姆·奥特曼 (Sam Altman) 一直直言不讳地表示通用人工智能 (AGI) 即将到来,并需要对芯片制造进行大规模投资,他个人投资了另一家神经形态芯片初创公司 Rain。
这一举动很能说明问题。尽管阿尔特曼公开表示要扩大当前的人工智能技术规模,但他的投资表明,他认识到,通往更先进的人工智能的道路可能需要计算架构的根本性转变。神经形态计算可能是弥合当前架构面临的效率差距的关键之一。
随着人工智能继续渗透到我们生活的方方面面,对更高效的硬件解决方案的需求只会越来越大。神经形态计算代表了当今芯片设计中最令人兴奋的前沿领域之一,有可能使新一代智能设备功能更强大、更可持续。
虽然大型语言模型占据了头条新闻,但人工智能的真正未来可能在于更像我们自己的大脑思考的芯片。正如 Kumar 所说:“我们只是触及了神经形态系统可能性的表面。接下来的几年将会非常令人兴奋。
随着这些受大脑启发的芯片进入消费设备和工业系统,我们可能正处于人工智能新时代的风口浪尖——一个更快、更高效、与生物大脑的卓越能力更紧密结合的时代。