革命性AI硬體:Innatera在超越GPU的靜默崛起

在科技界對Nvidia GPU驅動的大型語言模型(LLMs)著迷之際,人工智慧硬體也正發生一場靜默的革命。隨著傳統深度學習架構的限制和能耗需求日益明顯,一種名為神經形態計算的變革性方法應運而生。這一新興範式有望大幅降低AI的計算和功耗需求。

模仿自然的傑作:了解神經形態計算

神經形態系統究竟是什麼?為了探索這個問題,我們與Innatera創始人兼CEO Sumeet Kumar進行了交談,該公司是神經形態晶片領域的先驅。“神經形態處理器旨在模仿生物大腦處理信息的方式,”Kumar表示。“這些晶片採用人工神經元網路通過脈衝進行交流,而不是對存儲數據執行順序操作,這類似於真實神經元的行為。”

這種以大腦為靈感的設計尤其適用於消費設備和工業物聯網應用中的邊緣計算。Kumar展示了幾個引人注目的應用案例,例如持續的音頻處理以實現語音激活、機器人的即時傳感器融合以及超低功耗的計算機視覺。“關鍵在於,神經形態處理器在執行複雜的AI任務時,所消耗的能量僅為傳統解決方案的一小部分,”Kumar指出。“這為電池供電的設備帶來了持續的環境感知可能性,之前是無法實現的。”

從門鈴到數據中心:神經形態晶片的實際應用

Innatera的旗艦產品Spiking Neural Processor T1於2024年1月首次亮相,展示了這些創新。T1結合了事件驅動計算引擎、傳統CNN加速器和RISC-V CPU,形成了一個堅固的平台,以實現低功耗的AI在電池供電的設備中。

“我們的神經形態解決方案在運算上消耗的能量比傳統方法少500倍,”Kumar聲明。“我們還實現了約快100倍的模式識別速度。”一個顯著的應用是與日本傳感器供應商Socionext的合作,共同創造先進的人體存在檢測技術。這一解決方案在2024年CES展示,結合了雷達傳感器與Innatera的神經形態晶片,實現了節能且保護隱私的設備。

“想想視頻門鈴,”Kumar解釋道。“傳統型號依賴於高能耗的圖像傳感器,需頻繁充電。我們的方法使用高效運作的雷達傳感器。”這項技術通過檢測心跳來察覺人類存在,不論動作如何,從而在啟用之前維持隱私。這些應用擴展到智慧家居自動化、建築安全以及車輛內的佔用檢測。“這展示了神經形態計算如何改變日常設備,”Kumar強調。“我們在邊緣傳遞AI能力,同時顯著降低能耗並增強隱私。”

最大化AI計算的效率

能量效率和速度的顯著提升引起了業界的高度關注。Kumar透露,與多位客戶的合作日益增加,對神經形態技術的熱情穩步上升。該公司計劃到2030年將智能嵌入十億台設備,專注於感應邊緣應用市場。

為應對不斷增長的需求,Innatera正在提升生產能力。Spiking Neural Processor預計將於2024年晚些時候開始生產,並預計在2025年第二季度進行大量交付。自2018年成立於代爾夫特理工大學以來,Innatera已增長至約75名員工,並最近將前Apple副總裁Duco Pasmooij添加至顧問團隊。

該公司順利完成2100萬美元的超額認購A輪融資,主要投資者包括Innavest、InvestNL、EIC Fund和MIG Capital。這一強大支持彰顯了對神經形態計算的興奮之情。

Kumar展望未來,認為神經形態晶片將負責邊緣的AI任務,而大型基礎模型則留在雲端。“二者之間具有天然的協同關係,”他解釋道。“神經形態晶片擅長快速處理現實世界的感測器數據,而大型語言模型則更適合於複雜的推理和知識密集型任務。”

“這不僅僅是有關原始計算能力,”Kumar反思道。“人腦能以遠低於現有AI系統所消耗的能量完成卓越的智能任務。這正是神經形態計算的承諾——不僅能提供更強大的AI,還大幅提升其效率。”

與開發者工具的無縫整合

Kumar強調推動神經形態技術採用的重要因素:友好的開發者工具。“我們開發了一個全面的軟體開發工具包(SDK),使應用開發者能夠輕鬆針對我們的芯片,”Kumar說道。

Innatera的SDK利用流行的機器學習框架PyTorch。“開發者能夠在標準的PyTorch環境中全程構建他們的神經網絡,”Kumar指出。“如果你熟悉PyTorch,就可以無縫地使用我們的SDK和晶片。”

這種簡化的方法降低了開發者的門檻,使他們能夠利用現有技能,並充分發揮神經形態計算的能力。“這是一種簡潔、高效的方式,能夠在我們的晶片上快速構建和部署應用,”Kumar補充道,這為各種AI應用的快速整合指明了方向。

矽谷的靜默變革

隨著大型語言模型佔據頭條新聞,業界領袖對創新晶片架構的需求日益認識。值得注意的是,OpenAI首席執行官Sam Altman支持科技進步,並對另一家神經形態初創企業Rain進行了投資,顯示出實現更先進AI可能需要徹底轉變計算設計的認識。

隨著我們日常生活中對AI的日益依賴,對高效硬體解決方案的需求也在不斷增長。當前,神經形態計算站在晶片設計的最前沿,預示著一代智能設備的到來,這些設備將強大而可持續。

雖然大型語言模型或許吸引了眾人的目光,但AI的未來可能在於模仿我們自身大腦功能的晶片。正如Kumar簡潔所言:“我們只是探討神經形態系統可能性的表面。未來幾年將是極具激動人心的時期。”

隨著這些靈感於大腦的晶片開始進入消費設備和工業系統,我們正站在人工智慧新時代的邊緣,這一時代將更快、更高效,並更符合生物大腦的卓越能力。

Most people like

Find AI tools in YBX