대규모 언어 모델(LLM)을 장기적인 AI 이니셔티브에서 효과적으로 확장하기 위해, 기업들은 점점 더 검색 증강 생성(RAG) 프레임워크를 채택하고 있습니다. 그러나 이러한 변화는 통합의 증가하는 요구를 충족하기 위한 강력한 맥락 보안을 필요로 합니다.
RAG 보안을 위한 맥락 지능의 필요성
전통적인 RAG 접근 제어 방법은 필요로 하는 맥락적 감독을 제공하는 데 한계를 보입니다. RAG는 내장된 접근 제어가 없어 민감한 정보에 대한 무단 접근을 발생시킬 위험이 큽니다.
전통적 접근 제어의 한계
역할 기반 접근 제어(RBAC)는 동적인 맥락 요청에 적응하기에는 지나치게 경직되어 있으며, 속성 기반 접근 제어(ABAC)는 확장성에 어려움을 겪고 있고 유지 관리 비용이 더 높습니다. 따라서 성능을 저하시키지 않으며 보호를 향상시킬 수 있는 더 정교한 접근 방식이 필요합니다.
맥락 기반 접근 제어(CBAC)의 도입
이러한 격차를 인식하여, Lasso Security는 맥락 기반 접근 제어(CBAC)를 개발하여 맥락적 접근 관리의 수준을 높였습니다. CBAC는 LLM에 대한 모든 접근 요청의 맥락을 동적으로 평가하여 접근 요청, 응답, 상호작용, 행동 및 데이터 수정 요청을 포함합니다. 이 종합적인 접근 방식은 강력한 보안을 보장하여 무단 접근을 방지하고 LLM 및 RAG 프레임워크 내에서 높은 기준을 유지합니다.
Lasso Security의 공동 창립자이자 CPO인 Ophir Dror는 "전통적인 방법은 정적 기준에 초점을 맞추고 맥락을 효과적으로 관리하지 않아 조직을 취약하게 만들 수 있습니다."라고 강조했습니다. CBAC는 특정 정보에 접근할 수 있는 권한이 있는 사용자만 접근할 수 있도록 함으로써, 챗봇을 통한 민감한 데이터 누출을 방지합니다.
검색 증강 생성(RAG)이란?
2020년, Facebook AI Research, University College London 및 New York University의 연구자들은 RAG에 대한 기초 논문을 발표하며 이를 미리 훈련된 모델과 비모수적 메모리 시스템을 결합한 방법으로 정의했습니다. RAG는 기업 데이터를 보다 효과적으로 처리할 수 있게 하여 LLM의 기능을 크게 향상시킵니다.
Gartner는 RAG가 전통적인 LLM의 한계를 극복하고 관련 기업 정보를 통합할 수 있게 한다고 설명합니다. 수반되는 그래픽은 RAG의 작동 방식을 설명합니다.
RAG 통합을 위한 CBAC 설계
Dror는 CBAC가 유연성을 위해 설계되어 독립적인 솔루션으로 사용되거나 Active Directory와 같은 기존 시스템과 원활하게 통합될 수 있다고 밝혔습니다. 이러한 다용성은 현재 LLM 인프라에 큰 변화 없이 도입을 간소화합니다.
CBAC는 독립적으로 작동할 수 있을 뿐만 아니라 Lasso Security의 생성적 AI 보안 툴킷 내에서도 통합됩니다. 이는 AI 기반 챗봇, 애플리케이션 및 모델과의 직원 상호작용에 대한 포괄적인 보호를 보장합니다. Lasso Security는 데이터 전송을 지속적으로 모니터링하고 이상 징후나 정책 위반을 신속하게 식별하여 안전하고 준수를 보장하는 환경을 제공합니다.
Dror는 CBAC가 다양한 맥락적 지표를 지속적으로 평가하여 접근 제어 정책을 시행하며, 이를 통해 기밀 및 공개 데이터가 포함된 문서에서도 권한이 있는 인원만 민감한 정보에 접근할 수 있도록 한다고 설명했습니다.
보안 문제 해결
Dror는 RAG를 구현하는 조직들이 접근 권한에 대한 중요한 질문들에 직면하게 된다고 언급했습니다. RAG의 채택이 증가함에 따라, LLM의 환각 및 데이터 훈련의 어려움과 같은 한계가 접근 권한 문제를 해결해야 할 긴급성을 더욱 부각시키고 있습니다. CBAC는 이러한 문제들을 해결하기 위해 동적인 접근 제어 전략을 가능하게 하는 맥락적 통찰력을 제공합니다.
RAG가 조직의 LLM 및 AI 전략에서 중요한 역할을 하게 됨에 따라, 맥락 지능은 성능 저하 없이 안전하고 확장 가능한 솔루션을 육성하는 데 필수적이 될 것입니다.
순위 목록
