Dell 與 Meta 合作,為企業用戶提供本地部署的 Llama 2 開源人工智慧解決方案。

開源的大型語言模型Llama 2由Meta開發,最近因Dell Technologies的支持而在企業中獲得顯著增長。Dell宣布將Llama 2整合至其經過驗證的生成AI硬體設計和內部生成AI解決方案中,此合作不僅提升了Llama 2在企業環境中的可用性,也標誌著從雲端依賴轉向本地部署的轉變。

Llama 2於七月首次發布,並已獲得微軟Azure、亞馬遜AWS和谷歌雲等主要雲服務提供商的支持。然而,Dell的做法獨樹一格,專注於將這個開源LLM直接帶給企業用戶。

Dell不僅讓其客戶能夠使用Llama 2,還在內部應用中使用該模型。Dell的AI策略高級副總裁Matt Baker強調,支持Llama 2完美契合公司的願景,即將AI集成至企業數據中。他表示:「絕大多數數據存放在本地,這種開放訪問模式使其能直接與數據集成。」他還強調了Llama 2系列的複雜性,該系列擁有高達700億的參數,適用於強大的本地應用。

除了支持Llama 2之外,Dell還已在多個內部功能中使用它,並為如檢索增強生成(RAG)等應用的開發作出貢獻,以提升其知識管理系統。儘管Dell的目標是通過其生成AI硬體和專業服務創造收入,但Baker澄清表示公司並不會從Llama 2中獲利。 "我們認為Llama 2是一項寶貴的能力,我們的目標是簡化客戶對其的訪問,"他補充道。

根據Meta生成AI開源負責人Joe Spisak的說法,Meta對Dell支持Llama 2的信心源於令人印象深刻的採用數據,僅在過去一個月內就有約3000萬次下載。Llama 2不僅是強大的LLM,還是更廣泛生成AI生態系統中的關鍵組件,其中包括PyTorch機器學習框架。

Spisak指出,Llama 2的採用遍及AI生態系統的各個領域,雲服務提供商與硬體合作夥伴如高通一起利用它進行LLM優化。與Dell的合作尤為重要,因為它使Llama 2可以在本地環境中部署,這對於關心數據隱私的組織至關重要。

“雖然公共雲使用是一個選擇,但在數據敏感性問題突出的環境中運行Llama 2卻是這一開放模型的優勢所在,”Spisak解釋道。“Llama 2達到良好的平衡,允許在多樣化設置中部署。”

與Dell的合作還將促進Llama開發社區對企業需求的更深入理解。隨著更多用例的出現,將為優化Llama的能力提供寶貴的見解。Spisak總結道:“與Dell等合作夥伴的合作增強了我們的平台,最終促進了改進版本的開發,如Llama 3和Llama 4,促進了一個更安全和開放的生態系統。”

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles