Groq 是 Nvidia 巨頭的黑馬嗎?Groq 執行長在 VB Transform 2024 會議中引發熱烈期待。

人工智慧霸權的競賽正在升溫,而Groq正引領這場競賽。當HypeWriteAI及OthersideAI的首席執行官Matt Shumer稱讚Groq的AI PU推理引擎性能卓越—近500 tok/s,幾乎能即時提供答案—這一討論便在社交媒體上展開。Groq的首席執行官Jonathan Ross甚至在CNN上展示了這項技術,令觀眾驚嘆不已。

Groq旨在建立一個可行的替代方案,以挑戰Nvidia在GPU市場的主導地位。Nvidia今年報告的收益增長高達265%,它決心保持領導地位。Groq主張,其技術的能耗最糟情況下僅為GPU的三分之一,許多工作負載甚至只需十分之一。在大型語言模型(LLM)工作負載需求持續上升、能源需求亦日益增加的時代,Groq在這個受資源限制的計算環境中逐漸成為一個強勁的競爭者。

Ross預測,到了明年,全球一半以上的推理計算將使用Groq的晶片。未來會是什麼樣子?他將在Transform 2024分享見解,探討AI推理在企業科技中的關鍵角色及效率的迫切需求。Ross還將進行一場震撼的現場展示,展示Groq的獨特能力及未來發展。

不要錯過獲得Groq創新專屬見解的機會,並與領先的AI創新者建立聯繫。VB Transform 2024將於7月9日至11日在舊金山舉行,主題圍繞著將AI擴展到真實應用中的重要時刻。此次活動將展示實用的生成式AI案例研究,並分享來自行業領袖的故事。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles