Snowflake推出Cortex:一項資料雲端中開發大型語言模型應用的管理服務

今天,總部位於蒙大拿的數據即服務和雲存儲提供商 Snowflake 推出了 Cortex,這是一項全託管服務,將大型語言模型(LLMs)整合進其數據雲中。在年度 Snowday 活動上首度揭幕的 Cortex,為使用 Snowflake 數據雲的企業提供了一系列 AI 工具,包括開源 LLM,旨在分析數據並開發針對各種業務特定需求的應用程式。

Snowflake AI 高級副總裁 Sridhar Ramaswamy 表示:「憑藉 Snowflake Cortex,企業可以快速利用大型語言模型,並在幾分鐘內構建自訂的 LLM 驅動應用,同時保持對數據的靈活性和控制權,從而轉變用戶利用生成式 AI 促進商業增長的方式。」 Cortex 目前在私人預覽中推出,包含一套任務專用模型,以強化數據雲中的特定功能。Snowflake 計劃利用此服務支援三項生成式 AI 工具:Snowflake Copilot、Universal Search 和 Document AI。

使用 Cortex 建立 LLM 應用程式

儘管企業渴望採用生成式 AI,但許多企業在技術實施方面面臨複雜挑戰,包括專業人才需求和管理繁瑣的 GPU 基礎設施。Snowflake Cortex 的目標是簡化這一過程。該服務為用戶提供了一系列無伺服器的 AI 功能,既有專用功能也有通用功能。用戶可以通過簡單的 SQL 或 Python 調用來訪問這些功能,使其能夠在 Cortex 具有成本優化的基礎設施上啟動功能性 AI 應用。

Snowflake Cortex 架構

專用功能利用語言和機器學習模型,以自然語言輸入簡化特定分析任務,例如提取答案、總結數據和翻譯語言,並能根據提供的數據進行預測或檢測異常。另一方面,通用功能則為開發人員提供多樣化的模型,從開源 LLM(如 Llama 2)到 Snowflake 的專有模型,例如能將文本輸入轉換為 SQL 進行數據查詢的模型。

值得一提的是,這些通用功能包括向量嵌入和搜索能力,使用戶能夠根據其數據上下文化響應,並透過 Snowflake 中的 Streamlit 創建針對各種使用案例的自訂應用。Ramaswamy 指出:「這對我們的用戶來說非常棒,因為他們無需配置任何資源。我們像 API 一樣處理配置和部署,和 OpenAI 的產品相似,但完全在 Snowflake 內部。我們的客戶可以放心,他們的數據保持獨立和安全,無需擔心跨客戶訓練的風險。」他強調,並不需要廣泛的程式設計技能;用戶可以在 SQL 環境中完成他們的任務。

在應用層面,用戶可以輕鬆開發具備其獨特業務知識的對話式聊天機器人,例如設計用於幫助內容的共同駕駛助手。

由 Cortex 驅動的原生 LLM 體驗

儘管 Cortex 剛剛宣布可供企業使用,Snowflake 已在私人預覽中增強其平台,包括三項由 Cortex 驅動的功能:Snowflake Copilot、Universal Search 和 Document AI。Snowflake Copilot 作為一個對話助手,允許用戶以自然語言詢問其數據,構建 SQL 查詢、精煉查詢並提取洞察。Universal Search 整合了 LLM 驅動的搜索能力,幫助用戶快速識別與其需求相關的有價值數據和應用。Document AI 協助從存儲在 Snowflake 數據雲中的非結構化文檔中提取信息,如發票金額或合同條款。

數據行業的其他參與者,如 Databricks,最近推出了類似功能的 LakehouseIQ,這進一步加強了與 Snowflake 的競爭。Informatica 和 Dremio 也提供 LLM 解決方案,使用戶能夠以自然語言管理和查詢數據。

2023年 Snowday 的其他公告

除了 Cortex,Snowflake 還宣布了 Iceberg Tables 的進展,使用戶能夠消除數據孤島,統一數據雲中的信息。公司還推出了其 Horizon 治理解決方案的新功能,包括數據質量監控、增強數據來源可視化、改善分類以及跨雲安全和合規性的信任中心。

最後,Snowflake 宣布了一項資助計劃,計劃向開發 Snowflake 原生應用的早期創業公司投資高達 1 億美元,該計劃由其風險投資部門和數家公司支持,包括 Altimeter Capital、Amplify Partners 和 Menlo Ventures。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles