喬納森·羅斯(Jonathan Ross),AI晶片初創公司Groq的聯合創始人,昨日在VB Transform大會上宣布了一項驚人的開發者採用成就。在短短四個月內,Groq已經吸引了280,000名開發者使用其平台,羅斯形容這一里程碑在硬體產業中是前所未見的。
“據我們所知,這是任何新硬體平台中最快的開發者採用速度,”羅斯在接受《VentureBeat》的馬特·馬歇爾(Matt Marshall)訪問時表示。“我們並未預期能如此快速地走紅。”
Groq創新的無記憶體晶片架構推動了這一快速增長。與傳統的GPU不同,Groq的設計淘汰了外部記憶體,羅斯指出這是實現高效AI推理的“真正瓶頸”。該公司最近展示了實時語音轉錄的能力,並定位自己以與行業領導者競爭。羅斯將AI推理中的速度與等待Google搜索結果的挫折感相提並論:“想像一下,如果回答花費10秒鐘,那將是多麼痛苦。”
這種爆炸性的增長帶來了挑戰,特別是在管理激增的需求上。羅斯分享道:“我們的團隊忙得不可開交;我們正在舉行布線派對來設置機架——這一切簡直瘋狂。”
Groq的雄心勃勃計劃:從病毒式增長到市場領導者
儘管面臨擴張挑戰,Groq正利用其增長勢頭。該公司向首批50位客戶提出提高付費限額的建議,36小時內有超過35位簽署了訂單,超出預期。“我們的重點是盡快提高生產能力,”羅斯確認道。
展望未來,羅斯制定了雄心勃勃的目標:“我們計劃到明年年底捕捉全球AI推理市場的一半。”為了實現這一目標,Groq計劃部署170萬個AI處理器,羅斯表示這是Nvidia去年部署量的三倍。
分析師正在密切關注Groq快速的開發者採用情況,這是市場興趣的有力指標,然而長期成功並未保證。AI晶片行業正密切注視Groq以滿足不斷上升的需求。
以Google為靈感的AI硬體願景
羅斯借鑒了他在Google的經歷,幫助開發Tensor Processing Unit(TPU)。“我們的目標是確保每個人都能夠使用AI,”他解釋道,並將他在Google的工作與Groq的使命相連結。
如果Groq能夠保持其增長並提供承諾的性能,它有潛力顛覆AI推理硬體的格局,並對像Nvidia這樣的老牌企業構成挑戰。“對於這些模型來說,使用CPU效率低下;同樣,如果有LPU可用,GPU也不是理想選擇,”羅斯強調。
隨著Groq的生產擴張,羅斯也承認未來的挑戰。他指出,他在Google的經驗影響了他們的做法:“當我們在Google處理搜索時,並未依賴單一伺服器來回答查詢,”突顯了Groq創新的分佈式方法。
在前所未有的增長和雄心勃勃的目標下,Groq正將自己定位為AI晶片市場的潛在顛覆者。隨著他們努力滿足不斷上升的需求並履行承諾,科技行業熱切期待Groq是否能真正挑戰這一領域的老牌巨頭。