Vectara 簡化生成式 AI 開發,推出 Vectara Portal
作為檢索增強生成 (RAG) 的先驅,Vectara 創建了 Vectara Portal,一個開源環境,旨在使任何人都能輕鬆構建與數據互動的 AI 應用程式。
與許多商業解決方案提供即時文檔洞察不同,Vectara Portal 以其友好的使用者介面而脫穎而出。用戶無論技術水平如何,都能通過幾個簡單步驟,創建搜索、摘要或聊天應用程式,無需編寫任何程式碼。
解鎖非開發者的潛力
此工具讓非開發者能夠改善組織內的多種任務,從政策管理到發票搜索。然而,值得注意的是,該平台目前仍在評估階段,正在有限客戶中進行測試。
Vectara 開發者關係負責人 Ofer Mendelevitch 表示,Portal 的預期影響力與 Vectara 獨有的 RAG 作為服務平台的整合,將驅動非開發者的廣泛採用。他對用戶將創造的創新應用表示興奮,期望突出 Vectara 企業 RAG 系統的能力。
Vectara Portal 的運作方式
Vectara Portal 同時作為託管應用和根據 Apache 2.0 許可證的開源產品。用戶可以創建自定義的 Portal 並與特定受眾分享。
開始使用時,用戶需透過 Vectara 賬號創建 Portal,並使用 Vectara ID、API 密鑰及 OAuth 客戶端 ID 設置個人資料。建立個人資料後,用戶只需點擊「創建 Portal」按鈕,填寫應用名稱、描述及功能等基本信息,無論是作為語意搜索工具、摘要應用還是對話助手。
易於使用的 Portal 管理介面使用戶能夠訪問其創建的 Portal,調整設置並上傳文檔,以滿足其特定數據需求。這些文檔由 Vectara 的 RAG 平台進行索引,確保生成的回答準確且無偏差。
「這個平台擁有強大的檢索引擎和尖端的 Boomerang 嵌入模型,顯著提升了回應質量。」Mendelevitch 指出。憑藉無需編碼的特性,創建者能迅速開發生成式 AI 應用,只需幾次點擊。
當 Portal 建立後,後端會構建一個與用戶 Vectara 賬戶中上傳文檔相關的「語料庫」。該語料庫使 Vectara 的 RAG API 能夠高效處理查詢並提供最相關的回答。
在查詢過程中,Vectara 首先確定與用戶詢問相關的文檔關鍵片段(檢索步驟),然後將這些信息轉發給大型語言模型 (LLM)。用戶可以從多個 LLM 選項中選擇,包括 Vectara 自家的 Mockingbird 和 OpenAI 的模型。
「對於 Vectara Scale 客戶來說,Portal 整合了我們平台上最優秀的功能,包括最有效的 LLM。」Mendelevitch 補充道。預設情況下,應用為公開可分享的連結,用戶亦可限制存取權給特定個人。
旨在推動企業採用
憑藉其無需編碼的平台,Vectara 希望讓更多企業用戶能夠針對各類用途創建強大的生成式 AI 應用。公司預計,這將促進註冊人數和對其 RAG 作為服務產品的興趣,從而提升轉換率。
「企業的創造者會認為 RAG 是一個吸引人的應用案例,我們希望他們能體驗 Vectara 端到端平台的全部潛力。Portal 是解鎖這一理解的關鍵,對產品經理、總經理和高管而言,將成為寶貴的資產。」Mendelevitch 表示。
Vectara 已成功籌集超過 5,000 萬美元的資金,並目前為約 50 位生產客戶提供服務,包括 Obeikan Group、Juniper Networks、Sonosim 和 Qumulo。