革新AI硬件:Innatera超越GPU的悄然崛起

在科技界关注Nvidia GPU驱动的大型语言模型(LLMs)之际,人工智能硬件正悄然发生一场革命。随着传统深度学习架构的局限性和能源需求日益显现,神经形态计算这一变革性理念应运而生,这种方法有望大幅度降低人工智能的计算和能耗需求。

了解神经形态计算:自然的杰作

那么,神经形态系统究竟是什么?我们与Innatera的首席执行官兼创始人Sumeet Kumar进行了深入交流。他强调:“神经形态处理器旨在模仿生物大脑处理信息的方式。这些芯片并不是对存储数据进行顺序操作,而是通过仿生神经元网络进行尖峰通信,类似于真实神经元的行为。”

这一类大脑启发的设计在边缘计算、消费设备和工业物联网应用中展现出明显优势。Kumar展示了多个实际用例,比如不断电的音频处理、机器人中的实时传感器融合以及超低功耗的计算机视觉。“关键在于,神经形态处理器能够以传统解决方案能耗的一小部分执行复杂的AI任务,”Kumar指出。“这为电池供电设备的持续环境感知开辟了新可能,过去是无法实现的。”

现实应用:从门铃到数据中心的神经形态芯片

Innatera的旗舰产品——尖峰神经处理器T1于2024年1月正式推出,展示了这一系列创新。T1结合了事件驱动计算引擎与传统的卷积神经网络(CNN)加速器及RISC-V CPU,成为超低功耗AI电池设备的强大平台。“我们的神经形态解决方案在能耗上比传统方法低了500倍,”Kumar表示。“我们还实现了大约比竞争对手快100倍的模式识别速度。”

一个引人注目的应用是与日本传感器供应商Socionext合作,开发先进的人体存在检测技术。该技术在CES上展示,将雷达传感器与Innatera的神经形态芯片结合,实现了节能且保护隐私的设备。“以视频门铃为例,”Kumar解释道。“传统型号依赖于高耗能的图像传感器,需频繁充电。我们的方案使用工作效率更高的雷达传感器。”该技术通过检测心跳来识别人的存在,无论其是否在运动,从而在未激活前保持隐私。

这一技术的影响远不止于门铃,涵盖了智能家居自动化、建筑安全和车辆占用检测。“这正是神经形态计算如何改变日常设备的例证,”Kumar强调,“我们正在将AI能力引入边缘,同时显著降低能耗并增强隐私。”

AI计算的高效化

在能源效率和速度方面的巨大提升引发了行业的广泛关注。Kumar透露,多个客户正在与公司接洽,市场对神经形态技术的兴趣不断增长。到2030年,Innatera的目标是将智能嵌入十亿个设备,专注于传感器边缘应用市场。

为了响应日益增长的需求,Innatera正在加大生产力度。尖峰神经处理器预计将在2024年晚些时候开始生产,预计2025年第二季度将实现大规模交付。自2018年在代尔夫特理工大学成立以来,Innatera已发展到约75名员工,并最近将前苹果公司副总裁Duco Pasmooij加入顾问委员会。该公司在A轮融资中成功筹集2100万美元,主要投资者包括Innavest、InvestNL、EIC基金和MIG Capital。这一强劲支持反映了业界对神经形态计算的极大热情。

Kumar设想一个未来,即神经形态芯片在边缘处理AI任务,而较大的基础模型则在云端维护。“二者之间存在天然的协同效应,”他解释道,“神经形态计算擅长快速处理实际传感器数据,而大型语言模型则更适合复杂推理和知识密集型任务。”

“这不仅仅关乎计算能力,”Kumar思考道,“人脑以目前AI系统所消耗能量的很小一部分实现了非凡的智力成就。这正是神经形态计算所承诺的——更强大且更有效率的AI。”

与开发者工具的无缝集成

Kumar强调,促进神经形态技术普及的一个关键因素是用户友好的开发者工具。“我们开发了全面的软件开发工具包(SDK),使应用程序开发者能够轻松定位我们的芯片,”Kumar说道。Innatera的SDK利用了流行的机器学习框架PyTorch。“开发者可以在标准的PyTorch环境中构建自己的神经网络,”Kumar补充道。“如果你熟悉PyTorch,就可以无缝使用我们的芯片SDK。”

这种简化的方法降低了开发者的门槛,使其能够充分发挥现有技能,同时利用神经形态计算的强大能力。“这是一种简单高效的方式,使应用在我们的芯片上快速构建和部署,”Kumar表示,这为各类AI应用的快速集成指明了方向。

硅谷的安静变革

随着大型语言模型占据头条,行业领导者越来越意识到新型芯片架构的必要性。OpenAI首席执行官Sam Altman作为推进AI技术的倡导者,还投资了另一家神经形态初创公司Rain,表明实现更高级AI可能需要在计算设计上进行根本性转变。

随着我们生活中对AI依赖的增加,对高效硬件解决方案的需求也在上升。神经形态计算在当今的芯片设计中处于前沿,承诺开创一个既强大又可持续的新一代智能设备。

尽管大型语言模型可能占据风头,但AI的未来或许在于模拟我们脑部功能的芯片。正如Kumar所言:“我们仅仅在神经形态系统的可能性上略显探讨。未来几年将是极为激动人心的时期。”

随着这些仿生芯片开始涌入消费设备和工业系统,我们正处于人工智能新纪元的边缘,期待其带来更快、更高效、更加符合生物大脑卓越能力的智能化未来。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles