EdgeCortix:在邊緣計算中革新節能 AI 處理
EdgeCortix 正在領導邊緣計算中節能 AI 處理器的發展,面對價值達 2.76 兆美元的 Nvidia 等強勁競爭對手。這家總部位於日本的公司由擁有 25 年經驗的 AI 專家 Sakyasingha Dasgupta 於 2019 年 7 月創立。最近我在史丹福大學的日本與美國創新獎中與他交談,EdgeCortix 因其對 AI 技術的貢獻而備受肯定。
創新的起點
Dasgupta 的 AI 之旅始於青少年時期,他開始開發遊戲,激發了他對該領域的興趣。在接近二十年的 AI 陣線中,他早在深度學習興起之前就對早期神經形態系統進行了深入研究。在這一快速發展的領域中,Dasgupta 認識到了一個關鍵問題:傳統處理器無法跟上當前生成型 AI 模型龐大的數據處理需求。「當我們開始時,我們專注於以軟體為先的方式,」他表示,觀察到行業趨勢的增長。這種方法使得依賴 CPU 或 GPU 的用戶可以無縫過渡到新硬體,簡化了整合過程。
對邊緣計算的雄心壯志
Dasgupta 預見一個未來:如機器人系統、智能城市設備和衛星技術等邊緣網絡系統,將達到近乎雲端的性能。「我們的核心使命是提高計算效率,在最大化輸出的同時降低功耗,」他解釋道。這與行業向異構計算環境發展的趨勢相一致,融合了 Arm、RISC-V 和 Nvidia GPU 等多樣架構。
從 MERA 到 Sakura-II
EdgeCortix 開發了強大的軟體並設計了創新的晶片。公司的旗艦技術 MERA 編譯器和軟體框架,將以機器為中心的代碼翻譯為更高層次的語言。此平台支援主要處理器,包括 AMD、Intel、Arm 和 RISC-V,便於與現有系統的整合。早期用戶包括日本一家主要的晶片公司 Renesas。
持續拓展,EdgeCortix 轉型為無廠半導體公司,並推出 Sakura 晶片解決方案。最新的 Sakura-II AI 加速器協處理器以僅 8 瓦的功耗提供每秒 60 兆次操作。其低延遲、可在執行時重新配置的架構——動態神經加速器(DNA)特別適合處理需求高的邊緣 AI 工作負載,包括各類生成型 AI 應用,如視覺、語言和音頻。
榮譽與應用
在 2024 年,世界經濟論壇將 EdgeCortix 認定為技術先驅,肯定其在邊緣 AI 方面的創新潛力,涵蓋國防、機器人、智能城市和自動駕駛車輛等多個領域。與行業領導者的合作,如對 RZ/V MPU 系列的升級,突顯了公司對高性能 AI 推理解決方案的承諾。
公司約 51% 的客戶來自日本,29% 來自美國,其餘則分布於歐洲、中東及印度,EdgeCortix 的業務增長迅速,收入持續攀升。「我們已經實現了首代 Sakura 晶片的產品市場契合度,」Dasgupta 提到,第二代產品正準備在生成型 AI 市場進行量產。
隨著 EdgeCortix 持續擴張,該公司在籌集近 4,000 萬美元的股權和債務後,正在尋求額外資金,以推動其在邊緣 AI 處理上的創新項目。