Etched 成功籌集了 1.2 億美元,旨在挑戰 Nvidia 的 AI 芯片市場。該公司正在開發一款名為 Sohu 的新芯片,專為處理 AI 過程中關鍵的轉換器架構而設計。Etched 宣稱,通過將此架構直接整合到其芯片中,正在創建市場上最強大的轉換器推理伺服器,並宣稱 Sohu 是迄今為止最快的轉換器芯片。
這一聲明特別引人注目,因為 Nvidia 最近超越微軟,成為全球最具價值的公司,市值達到 3.3 兆美元。Etched 在彼得·泰爾等影響力投資者的支持下,相信其由 35 名團隊成員組成的實力足以與 Nvidia 競爭。
本輪融資由 Primary Venture Partners 和 Positive Sum Ventures 主導,吸引了不少機構投資者,包括 Hummingbird、Fundomo、Fontinalis、Lightscape、Earthshot、Two Sigma Ventures 和 Skybox Data Centers。著名的天使投資者包括彼得·泰爾、史丹利·德魯肯米勒、大衛·西格爾、巴拉吉·斯里尼瓦桑、阿姆賈德·馬薩德、凱爾·沃格特、凱文·哈茲、傑森·華納、湯瑪斯·多姆克、布萊恩·約翰遜、邁克·諾沃格拉茨、伊馬德·阿健德、贾韋德·卡里姆 和查理·契弗。
泰爾獎學金的主任亞歷克斯·漢迪表示:“投資 Etched 是對 AI 未來的重要布局。他們的芯片解決了競爭對手不敢面對的可擴展性問題,有助於抵消行業內的停滯。創始人代表了我們所支持的非傳統人才,他們中有許多人放棄哈佛,專心挑戰半導體領域。他們正在為矽谷的創新鋪平道路,而無需承擔傳統技術的負擔。”
對於強大 GPU 的需求持續增長。
Etched 由哈佛辍学生羅伯特·瓦肯、加文·烏伯提和朱克里斯創立,自 2022 年 6 月以來,他們在 AI 領域進行了重大投入,押注於轉換模型的變革潛力。歷史上,各種 AI 模型如 CNN、RNN 和 U-Net 在各自領域發揮了重要作用,但轉換器(即 ChatGPT 中的“T”)是首個可擴展的 AI 模型。
“我們相信,隨著計算能力的增強,智能將持續擴展。我們的預測是,企業將在專用芯片上投入數十億美元以運行 AI 模型,”CEO 加文·烏伯提在一篇博客中表示。“在過去兩年內,我們開發了 Sohu,這是全球首款專為轉換器設計的專用ASIC。這款芯片無法運行傳統的 AI 模型,如強化 Instagram 動態的 DLRM 或蛋白質折疊模型,也無法處理 CNN 或 RNN。然而,對於轉換器而言,Sohu 在速度和可負擔性方面無人能敵,顯著超越了 Nvidia 即將推出的 Blackwell GPU。”
烏伯提強調,AI 模型的格局已向轉換器大幅轉變,正如 ChatGPT、Sora、Gemini 和 Stable Diffusion 3 的發展所示。如果出現新的架構,如 SSM 或君主混合器,Etched 的芯片可能會變得不再相關。然而,如果預測成真,Sohu 可能會徹底改變遊戲規則。該公司正在與 TSMC 合作,在先進的 4nm 節點上進行生產。
為什麼會有這樣的賭注?
Etched 專注於轉換器技術。
根據 Etched 的說法,實現超智能的關鍵在於規模。在短短五年內,AI 模型從基本形式演變為在標準化測試中超越人類的能力,這主要是因為規模的增長。
通過擴大 AI 模型並提高訓練數據的質量,這些系統的智能顯著增強。從 GPT-2 到 Llama-3-400B,訓練領先模型所需的 FLOPS 數量在五年內驟增了 50,000 倍。
烏伯提解釋道,雖然 AI 架構過去演變迅速,涌現出眾多模型,但當前的最先進系統如 Llama 3 與其前代模型 GPT-2 十分相似,僅有少量調整。這一趨勢可能會繼續。
“所有主要參與者,包括 Google、OpenAI、Amazon 和微軟,都在 AI 數據中心的投資上超過了 1,000 億美元,”烏伯提指出。儘管學術界存在不同意見,但領先的 AI 實驗室普遍認同,擴大大型語言模型(LLM)將引導我們走向超智能。
烏伯提強調:“我們正在見證歷史上最大的基礎設施擴張。擴展法則在過去十個量級(從 $10^{16} 到 $10^{26} FLOPS)中顯示了一致的成功。如果預測在接下來的四個量級(最高可達 $10^{30} FLOPS)中保持不變,那麼超智能便在觸手可及之內,AI 芯片將主導市場需求。”
靈活芯片的發展進入平穩期。
Etched 對 GPU 的觀點。
近年來,模型架構頻繁更迭,包括 CNN、DLRM 和 LSTM,各自在 AI 界佔據了一席之地,每種都需承擔巨額成本。 AI 芯片市場的整體規模在 100 億到 200 億美元之間。
為了迎合這一庞大市場,許多公司開發了多用途 AI 芯片,以支持多種架構,包括 Nvidia 的 GPU、Google 的 TPU、Amazon 的 Trainium 等。然而,所有產品在性能上都無法與 Nvidia 的 H100 抗衡。
烏伯提指出:“許多競爭對手聲稱通過將多顆芯片結合成一整卡來提升性能,而實際上,性能與面積比仍然停滯不前——想要從 GPU 轉型的挑戰依然存在。”
Etched 強調,所有主要計算市場最終都會朝著專用芯片的方向發展,無論是網絡還是比特幣挖礦,專用芯片在性能上均遠勝於 GPU。烏伯提表示:“由於 AI 領域的巨大財務利益,專業化是不可避免的。”
Etched 預測,未來大部分投資將集中在超過 10 兆參數的模型,這些模型可能運行於少數幾個大型雲數據中心,類似於芯片製造領域的趨勢,高成本、高解析度的廠房逐漸取代小型設施。
“即使出現更優越的架構,轉型脫離轉換器也是極具挑戰性的,因為在各個技術方面的基礎工作必須重新進行,”他補充說。隨著 AI 模型的複雜性增加和訓練成本的上升,對專用芯片的需求將增長,使早期採用者在該領域成為領導者。
Etched 有望引領市場。
創始人瓦肯、烏伯提和朱聲稱,迄今為止尚未建造任何架構專用的 AI 芯片。此前,創建這類專用芯片需要大量需求和對其長期可行性的信心。
“我們選擇了正快速增長的轉換器技術進行投資,”烏伯提表示。
隨著轉換器推理的需求現已超過 50 億美元,OpenAI、Google、Amazon 和微軟等科技巨頭已將轉換器模型融入其運作中。
烏伯提強調,獨特的架構已經顯著整合。像 OpenAI 的 GPT 系列、Google 的 PaLM 和 Facebook 的 LLaMa 主要圍繞轉換器進行設計。
“我們正快速推進 Sohu 的潛力,”他堅定地說。“我們的開發周期正朝著最快的 4nm 晶片邁進。與 TSMC 合作,我們正在從頂級供應商那裡雙重採購 HBM3E,預訂數千萬美元的需求來自 AI 公司。”
該公司還指出,當前的 AI 模型往往過於昂貴且運行速度緩慢,無法有效交付產品,例如 AI 編碼代理的高運營成本和視頻模型的緩慢處理速度。
烏伯提總結道:“有了 Sohu,我們就能改變格局。實時視頻、音頻、代理和搜索能力最終將成為現實,顯著提升 AI 產品的經濟可行性。”
Etched 能否超越 Nvidia?
Etched 獨特的平行處理方式使其在市場上具備優勢。
在談到這家小型公司如何能夠超越 Nvidia 的問題時,COO 羅伯特·瓦肯解釋道:“過去,AI 計算市場十分支離破碎,使用著眾多模型。投資於轉換器模型的數十億美元顯示出對專業化的轉向。雖然我們的芯片不會在通用工作負載中超越 GPU,但它們將在轉換器推理方面佔據主導地位,這對生成式 AI 產品至關重要。”
這種專業化為 Etched 提供了競爭優勢,使其芯片在其他無法做到的地方表現優異。