為了在長期的人工智慧計畫中有效擴展大型語言模型 (LLM)，企業越來越多地採用檢索增強生成 (RAG) 框架。然而，此舉需強化上下文安全，以應對日益增長的整合需求。
確保 RAG 的安全性需要上下文智能
傳統的 RAG 存取控制方法未能提供必要的上下文監督。由於 RAG 並不具備內建的存取控制，這造成了潛在的安全風險，可能導致未經授權的用戶訪問敏感資訊。
傳統存取控制的局限性
基於角色的存取控制 (RBAC) 過於僵化，難以適應動態的上下文請求，而基於屬性的存取控制 (ABAC) 不僅難以擴展，還可能造成更高的維護成本。因此，亟需一種更複雜的方法，以提升保護而不影響性能。
介紹基於上下文的存取控制 (CBAC)
針對這些問題，Lasso Security 開發了基於上下文的存取控制 (CBAC)，以提升上下文訪問管理。CBAC 動態評估所有對 LLM 的訪問請求，包括訪問、回應、互動、行為及數據修改等請求。這一全面的方法確保了強大的安全性，有效防止未經授權的訪問，同時維護 LLM 和 RAG 框架的高標準。
Lasso Security 的共同創辦人兼首席產品官 Ophir Dror 強調：「傳統方法著重於靜態標準，無法有效管理上下文，讓組織面臨風險。」CBAC 透過確保只有授權用戶能訪問特定資訊，來解決這些缺陷，從而保護敏感數據不被聊天機器人不當披露。
什麼是檢索增強生成 (RAG)？
在 2020 年，來自 Facebook AI 研究所、倫敦大學學院及紐約大學的研究人員發表了一篇關於 RAG 的基礎論文，將其定義為一種結合預訓練模型與非參數記憶系統的方法。RAG 透過更有效地處理企業數據，顯著提升了 LLM 的能力。
Gartner 計劃RAG解決傳統LLM的局限，使相關的企業資訊得以整合。隨附的圖示展示了 RAG 的運作方式。
為 RAG 整合設計 CBAC
Dror 表示，CBAC 設計靈活，既可作為獨立解決方案，也能無縫整合至現有系統，如 Active Directory。這種多樣性簡化了其採用過程，無需對現有 LLM 基礎設施進行重大更改。
儘管 CBAC 可以獨立運作，但它也可與 Lasso Security 的生成式AI安全套件整合，確保對員工與基於AI的聊天機器人、應用及模型的互動提供全面保護。Lasso Security 不斷監控數據傳輸，迅速識別異常或違規行為，確保安全和合規的環境。
Dror 詳述，CBAC 不斷評估各種上下文指標，以執行存取控制政策，從而允許只有授權人員訪問敏感信息，即使在包含機密與公開信息的文件中。
解決安全挑戰
Dror 指出，實施 RAG 的組織經常面臨有關訪問權限的關鍵問題。隨著 RAG 的採用增加，LLM 的局限性，如幻覺與數據訓練的困難，使得解決權限問題的迫切性加劇。CBAC 的開發旨在通過提供必要的上下文見解，促進動態存取控制策略，以應對這些挑戰。
隨著 RAG 成為組織 LLM 和 AI 策略的核心，上下文智能將對於促進安全且可擴展的解決方案至關重要，而不會妨礙性能。
排行榜
