OpenAI 針對 Meta 的 Llama 3 增長，推出創新企業 AI 新功能

Home AI新聞 OpenAI 針對 Meta 的 Llama 3 增長，推出創新企業 AI 新功能

儘管Meta的Llama 3迅速獲得廣泛關注，成為最常使用的大型語言模型（LLM）之一，OpenAI作為生成式AI的先驅，卻透過推出新的企業級功能來增強其競爭優勢，特別是在其GPT-4 Turbo LLM及其他模型上。

OpenAI最近宣布擴展API客戶的企業專注功能，豐富了Assistants API，並引入了改善安全性、管理控制和成本管理的新工具。OpenAI API負責人Olivier Godement在近期的一次媒體訪問中表示：「與開發者和企業討論AI模型的實質工作時，OpenAI仍然領先。我們始終歡迎競爭，這能促進整體改善。」

私有鏈接和增強安全功能

一個主要的安全增強是引入了私有鏈接，這使得Microsoft的Azure雲服務與OpenAI之間的安全通信變得更加便利，減少了API查詢中客戶數據暴露於公開互聯網的風險。OpenAI的安全框架還包括SOC 2 Type II證書、單一登錄（SSO）、靜態AES-256數據加密、傳輸中的TLS 1.2加密以及基於角色的訪問控制。此外，OpenAI還實施了本地多因素身份驗證（MFA），應對不斷增加的合規需求。

對於需要HIPAA合規的醫療機構，OpenAI提供商業夥伴協議，以及對符合要求的API客戶的零數據保留政策。

升級的Assistants API以增強文件管理

OpenAI的重要企業產品Assistants API已升級，增強了文件檢索能力，新增的「filesearch」功能能夠管理多達10,000個文件，這是從之前僅20個文件的限制增加了500倍。這次升級還包含了平行查詢、改進的重新排名和查詢改寫功能。OpenAI還引入了流式數據傳輸功能，允許模型如GPT-4 Turbo在生成令牌時即時產生輸出，無需等待完整響應。API現在還包括改進文件管理的新「vectorstore」對象，使用戶能夠更詳細地控制令牌使用，幫助成本管理。

項目功能以定制訪問控制

新推出的項目功能允許組織在項目層級上管理角色和API密鑰，這使企業客戶能夠設定權限、控制模型可用性並建立使用限制，避免意外成本，簡化項目管理。例如，企業內不同團隊可以在不同項目中使用特定AI模型，無需擔心數據混合。OpenAI的Miqdad Jaffer解釋道：「項目使您能夠將資源和成員隔離到個別項目中，提供清晰的報告和增強的訪問、安全及成本控制。」

可擴展AI運營的成本管理功能

OpenAI還推出了新的成本管理功能，幫助組織高效擴展AI運營，包括對持續令牌使用的折扣，以及通過新批量API為異步工作負載提供50%的成本減免，承諾更快的響應時間和更高的速率限制。為使用批量API，客戶必須在單次請求中提交其令牌，結果通常在24小時內交付，然而OpenAI表示對於不需要即時反饋的客戶，響應可在10到20分鐘內完成。

隨著OpenAI不斷加強以企業級安全、管理控制和成本管理為重點的產品，這些更新旨在為企業提供更流暢的使用體驗，直接對抗Llama 3的崛起及競爭對手如Mistral的開放模型，後者可能需要更多的設置工作。

Snowflake 推出 Arctic：一款開放的「專家混合」大型語言模型，旨在與 DBRX 和 Llama 3 競爭。

Brev.dev 與 Akash Network 合作，提供 AI 開發所需的按需 GPU 服務