Cloudflare 正在提升其平台,讓更多開發者能夠整合 Hugging Face 的 AI 應用程式。該公司還將其無伺服器的 GPU 驅動推論解決方案 Workers AI 擴展至廣泛使用。
這項整合最早於近七個月前宣布,旨在簡化模型在 Workers AI 上的部署過程。開發者只需一鍵,即可瞬間分發他們的模型。Cloudflare 目前支持十四個精選的 Hugging Face 模型,適用於文本生成、嵌入和句子相似度等任務。
Cloudflare 首席執行官馬修·普林斯(Matthew Prince)表示:「近來生成性 AI 的激增促使各行各業的公司進行重大投資。雖然演示過程簡單,將 AI 轉型為生產環境卻相當具有挑戰性。我們的目標是通過降低開發 AI 應用的成本和複雜性來解決這一問題。」
他繼續說道:「Workers AI 作為經濟實惠且可輕鬆使用的推論方案脫穎而出。我們與 Hugging Face 共同合作,致力於促進 AI 的普及,幫助開發者迅速選擇模型並在全球範圍內擴展其 AI 應用。」
開發者可以通過 Hugging Face 選擇他們喜愛的開放源碼模型,選擇“部署到 Cloudflare Workers AI”後,即可瞬間分發。這確保了在最佳位置的即時交付,消除了延遲,提升了用戶體驗。
Hugging Face 的聯合創始人兼首席技術官朱利安·肖蒙(Julien Chaumond)指出:「提供最受歡迎的開放模型及後端支援伺服器無關 API,背靠全球 GPU 網絡,為 Hugging Face 社群帶來了革命性的變化。」
透過 Workers AI,開發者可利用全球超過 150 個城市中的 GPU,包括開普敦、德班、約翰內斯堡、拉哥斯、安曼、布宜諾斯艾利斯、墨西哥城、孟買、新德里和首爾。此外,Cloudflare 也在增強對細調模型權重的 AI 支援,讓開發者能創建和部署專門的領域特定應用。