Intel 發布 Xeon 6 與 Gaudi 3 AI 晶片,以提升人工智慧及高效能運算 (HPC) 能力

英特爾推出全新Xeon 6處理器及Gaudi 3 AI加速器,以提升AI性能

英特爾正式推出Xeon 6處理器,搭載效能核心(P-cores)以及Gaudi 3 AI加速器,進一步鞏固其在AI領域的地位。Xeon 6處理器專為提升AI影像性能而設計,性能達雙倍增長,而Gaudi 3加速器則增強20%的吞吐量。

滿足AI基礎設施需求

隨著AI技術顛覆各行各業,企業急需具成本效益的基礎設施,以支援快速開發與部署。因應此需求,英特爾的新Xeon 6和Gaudi 3解決方案旨在達到每瓦最佳性能,針對強大的AI系統需求,降低總擁有成本(TCO)。

“AI需求正在改變數據中心,業界需要多樣化的硬體、軟體和開發者工具,”英特爾數據中心與AI集團執行副總裁暨總經理Justin Hotard表示,“隨著Xeon 6和Gaudi 3的推出,英特爾正在創造一個開放的生態系統,以增強各種工作負載的性能、效率和安全性。”

介紹英特爾Xeon 6和Gaudi 3 AI加速器

英特爾最新的創新包括對數據中心產品組合進行重大更新,Xeon 6處理器專為計算密集型工作負載設計,性能是前代的兩倍,並具備增加的核心數、雙倍的記憶體帶寬和嵌入式AI加速功能,以實現從邊緣到雲端的最佳效率。

Gaudi 3 AI加速器專為大規模生成AI優化,擁有64個張量處理核心(TPCs)和八個矩陣乘法引擎(MMEs)。其支持128GB的HBMe2記憶體進行訓練與推理,並配備24個200吉位以太網端口以實現可擴展網路。此外,Gaudi 3與PyTorch框架及先進的Hugging Face變壓器模型完全相容。英特爾與IBM合作,在IBM Cloud上部署Gaudi 3 AI加速器作為服務,旨在降低TCO並提升AI性能。

加強AI系統並帶來TCO優勢

英特爾的Xeon 6和Gaudi 3升級旨在支持可擴展的AI部署,提供靈活選擇、具競爭力的價格和更易接觸的AI技術。73%的GPU加速伺服器依賴英特爾Xeon作為主機CPU,英特爾的x86基礎設施與開放生態系統正準備支援企業打造高價值的AI系統。

英特爾與領先的OEM廠商如Dell Technologies、Hewlett Packard Enterprise及Supermicro合作,以共同設計符合客戶需求的高效AI部署系統。Dell Technologies目前正在利用Xeon 6和Gaudi 3開發基於檢索增強生成(RAG)的解決方案。

將生成AI解決方案從原型轉型為可生產系統需要解決即時監控、錯誤處理、日誌記錄、安全性和可擴展性等挑戰。英特爾正在與OEM廠商密切合作,提供基於開放平台企業AI(OPEA)框架的可生產RAG解決方案,將微服務整合以實現針對Xeon及Gaudi系統的流暢部署。

擴大企業AI應用的可及性

英特爾持續增強企業AI解決方案的可及性。Intel Tiber產品組合旨在應對AI、雲端及邊緣環境中的訪問、成本、複雜性、安全性、效率和可擴展性等問題。Intel® Tiber™開發者雲現在提供Xeon 6的預覽系統,供技術評估和測試。

部分客戶也將提前獲得Gaudi 3的使用權,以驗證AI模型的部署,Gaudi 3集群預計將於下季度推出,支持大規模生產。

此外,新的服務產品包括SeekrFlow,這是一個由Seekr提供的端到端AI平台,用於開發可信賴的AI應用程式。近期更新涵蓋最新的Intel Gaudi軟體加以Jupyter筆記本,現在支持PyTorch 2.4和Intel oneAPI,提升Xeon 6處理器的AI加速能力。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles