在生成式AI的時代,聊天機器人變得比以往更加普及,但它們真的更有幫助和準確嗎?今天,Vectara,專注於生成式AI的平台開發商,推出了一個新模組,旨在幫助企業創建和實施高準確度的聊天機器人。透過使用檢索增強生成(RAG)方法結合Boomerang向量嵌入,Vectara確保提供實時信息,同時降低錯誤的風險。自2022年10月進入公眾視野以來,Vectara不斷提升其平台以滿足用戶需求,此次推出的聊天模組是其能力的一大擴展。
「使用我們的聊天功能時,它利用RAG生成你的回應,」Vectara的聯合創始人兼首席架構師Tallat Shafaat表示。「這些答案來自你的文件,增強了準確性。」
現代聊天機器人:超越問答的對話AI
Vectara的新聊天模組與以往的產品有何不同?根據Vectara聯合創始人兼CEO Amr Awadallah的說法,關鍵在於可擴展性和對話持續性。以往,Vectara的API主要聚焦於問答互動,使用者提問後獲得答案。如果用戶有後續問題,則需重述原始問題,因為Vectara採取無狀態會話方式,不會保留對話歷史。這一限制經常迫使客戶自行構建持久層以保持狀態。但新的Vectara聊天模組通過整合持久記憶,改變了這一情況,允許平台無縫追蹤對話歷史。「這一擴展使我們的API能夠保持對話歷史,無需重述以前的查詢,」Awadallah表示。
在部署方面,Vectara提供API和簡單的部件,幫助組織僅需幾行JavaScript和HTML即可輕鬆將聊天模組整合到其網站或應用程式中。展望未來,Shafaat指出計劃進一步增強Vectara聊天功能,加入更多企業管理功能。帳戶擁有者將能夠對客戶聊天歷史進行語意分析,獲取用戶情緒和查詢趨勢的洞察。基於RAG的查詢功能還將有助於對用戶聊天進行詢問。
解決生成式AI中的幻覺與偏見
在企業中使用生成式AI的一大挑戰是幻覺的風險。Vectara的RAG方法是幾種旨在減少聊天模組中不準確回應的策略之一。Awadallah強調,Vectara的系統提供可解釋的回應並附有引用,增強了準確性。該平台還通過名為最大邊際相關性的先進方法來緩解偏見。「最大邊際相關性增加了我們返回結果的多樣性,」他解釋道。
Awadallah補充道,對於存在不同意見的辯論話題,強大的算法對於呈現多種觀點至關重要。「我們確保捕捉主要觀點和次要意見,即使它們的相關性較低,」他表示。
透過專注於準確性、多樣性及用戶互動,Vectara旨在提升聊天機器人在企業溝通中的角色。