SambaNova 發布 AI Samba-CoE v0.2：在創新與性能上超越 Databricks DBRX

Home AI新聞 SambaNova 發布 AI Samba-CoE v0.2：在創新與性能上超越 Databricks DBRX

AI晶片製造商SambaNova Systems宣布其Samba-CoE v0.2大型語言模型（LLM）達成重要里程碑。此模型每秒可處理高達330個標記，優於顯著競爭對手，包括Databricks新推出的DBRX、MistralAI的Mixtral-8x7B及Elon Musk的xAI Grok-1。

這項成就的特點在於其效率。此模型以高速運行且不影響準確性，僅需8個插槽，相較於其他需要576個插槽且運行於較低比特率的替代品。測試中，此LLM能極快生成回應——僅用一秒便產生330.42個標記的425字答案，針對量子計算的問題也能以332.56個標記每秒的速度迅速回應。

效率提升

SambaNova選擇在保持高比特率的同時運用較少插槽的策略，代表了計算效率的一次重大突破。公司亦預告將與LeptonAI合作推出Samba-CoE v0.3，顯示其持續創新。

這些進展建立在Samba-1和Sambaverse的開源模型上，運用獨特的集成與模型合併技術。此方法不僅支持當前版本，也顯示未來發展的可擴展性。

與其他模型的比較，包括GoogleAI的Gemma-7B、MistralAI的Mixtral-8x7B、Meta的Llama2-70B、Alibaba Group的Qwen-72B、TIIuae的Falcon-180B和BigScience的BLOOM-176B，突顯出Samba-CoE v0.2在AI領域的競爭優勢。這項公告預計將引發AI和機器學習社群的興趣，促進有關效率、性能及AI模型未來演化的討論。

SambaNova背景

SambaNova成立於2017年，位於加州帕洛阿爾托，由Kunle Olukotun、Rodrigo Liang和Christopher Ré創辦，最初專注於定制AI硬體晶片。隨著使命的擴展，SambaNova現已涵蓋多種服務，包括機器學習和於2023年初推出的SambaNova Suite，這是一個全面的企業AI訓練、開發與部署平台。今年早些時候，該公司推出了Samba-1，這是一個由50個較小模型組成的1兆參數AI模型，採用「專家組合」的方法。

從以硬體為中心的初創公司轉型為全方位AI創新者，反映了創始人對於使AI技術可擴展和易於獲得的承諾。SambaNova正逐步確立自身作為Nvidia等行業巨頭的強勁競爭者，並在2021年成功募集了6.76億美元D輪融資，估值超過50億美元。如今，它除了與Groq等其他專注於AI晶片的初創公司競爭，還與Nvidia等既有巨頭對抗。

Google DeepMind 推出「超越人類」的 AI 系統：革新事實查核、降低成本並提升準確性

SydeLabs 獲得250萬美元種子資金，打造基於意圖的人工智慧防火牆解決方案

Most people like

LabEx

170.5K

發現一個互動學習平台，結合實驗室實作及尖端的人工智慧技術。投入一個旨在有效提升您的技能與知識的動態學習體驗。今天就來探索學習的未來！

編程 AI Code Assistant

Bizway

95.1K

透過Bizway將您的想法轉化為具有影響力的行動。探索我們創新的平台如何賦予您實現願景的能力！

商業規劃 AI Business Ideas Generator

Kling AI Animate Old Photos

14.1K

利用 AI 工具將舊照片轉換為引人注目的影片在數位時代，為珍貴回憶注入新生命從未如此簡單。使用 AI 工具，可以將舊照片轉變為動態影片，讓您以迷人的方式重溫過去的瞬間。這些工具藉助先進技術增強靜態影像，賦予其動感與聲音。探索如何使用 AI 將您的歷史照片轉變為可分享的影片珍品，吸引目光並喚起懷舊之情。

AI 照片動畫 AI Photo & Image Generator

Writing.io

25.2K

輕鬆創建和分享驚人的內容，試試 Writing.io。釋放你的創意，提升你的寫作體驗，立即開始！

寫作 AI Content Generator

Find AI tools in YBX