Pour une mise à l'échelle efficace des grands modèles linguistiques (LLMs) dans le cadre d'initiatives IA à long terme, les entreprises adoptent de plus en plus les cadres de génération augmentée par récupération (RAG). Cependant, ce changement nécessite une sécurité contextuelle robuste pour répondre aux exigences croissantes en matière d'intégration.
Sécuriser les RAG nécessite une intelligence contextuelle
Les méthodes traditionnelles de contrôle d'accès RAG sont insuffisantes pour fournir l'encadrement contextuel nécessaire. Comme les RAG n'ont pas de contrôle d'accès intégré, ils présentent un risque de sécurité notable en permettant potentiellement l'accès non autorisé à des informations sensibles.
Limitations des contrôles d'accès traditionnels
Le contrôle d'accès basé sur les rôles (RBAC) est trop rigide pour s'adapter aux demandes contextuelles dynamiques, tandis que le contrôle d'accès basé sur les attributs (ABAC) peine à évoluer et engendre des coûts de maintenance plus élevés. Il est donc impératif d'adopter une approche plus sophistiquée qui renforce la protection sans compromettre la performance.
Présentation du contrôle d'accès basé sur le contexte (CBAC)
Conscients de ces lacunes, Lasso Security a développé le contrôle d'accès basé sur le contexte (CBAC) pour améliorer la gestion des accès contextuels. Le CBAC évalue dynamiquement le contexte de toutes les demandes d'accès aux LLM, y compris les demandes d'accès, de réponse, d'interaction, de comportement, et de modification de données. Cette approche globale garantit une sécurité robuste, empêchant les accès non autorisés et maintenant des normes élevées au sein des frameworks LLM et RAG.
Ophir Dror, co-fondateur et CPO de Lasso Security, a souligné : « Les méthodes traditionnelles se concentrent sur des critères statiques, échouent à gérer efficacement le contexte et peuvent rendre les organisations vulnérables. » Le CBAC aurait pour mission de remédier à ces insuffisances, en s'assurant que seuls les utilisateurs autorisés accèdent à des informations spécifiques, protégeant ainsi les données sensibles contre des divulgations inappropriées par les chatbots.
Qu'est-ce que la génération augmentée par récupération (RAG) ?
En 2020, des chercheurs de Facebook AI Research, University College London et New York University ont publié un article fondateur sur le RAG, le définissant comme une méthode qui combine des modèles pré-entraînés avec un système de mémoire non paramétrique. En permettant un traitement plus efficace des données d'entreprise, le RAG améliore considérablement les capacités des LLM.
Gartner explique que le RAG surmonte les limitations des LLM conventionnels, permettant l'intégration d'informations pertinentes d'entreprise. Le graphique accompagnant illustre le fonctionnement du RAG.
Conception du CBAC pour l'intégration RAG
Dror a précisé que le CBAC est conçu pour la flexibilité, fonctionnant comme une solution autonome ou s'intégrant parfaitement à des systèmes existants tels qu’Active Directory. Cette polyvalence facilite son adoption sans nécessiter de modifications majeures aux infrastructures LLM actuelles.
Bien que capable de fonctionner de manière indépendante, le CBAC s’intègre également dans la suite de sécurité de l’IA générative de Lasso Security. Cela garantit une protection complète pour les interactions des employés avec des chatbots basés sur l'IA, des applications et des modèles. Lasso Security surveille en continu les transferts de données et identifie rapidement les anomalies ou violations de politique, assurant un environnement sécurisé et conforme.
Dror a ajouté que le CBAC évalue en permanence divers indicateurs contextuels pour appliquer les politiques de contrôle d'accès, permettant ainsi uniquement aux personnes autorisées d'accéder à des informations sensibles, même dans des documents contenant à la fois des données confidentielles et pertinentes publiquement.
Répondre aux défis de sécurité
Dror a noté que les organisations mettant en œuvre le RAG se heurtent souvent à des questions critiques concernant les autorisations d'accès. Avec l'adoption croissante du RAG, les limitations des LLM—telles que les hallucinations et les difficultés d'entraînement des données—accentuent l’urgence de résoudre les problèmes de permissions. Le CBAC a été développé pour aborder ces défis en fournissant les informations contextuelles nécessaires pour permettre des stratégies de contrôle d'accès dynamiques.
À mesure que le RAG devient central dans les stratégies d'LLM et d'IA des organisations, l'intelligence contextuelle sera essentielle pour favoriser des solutions sécurisées et évolutives sans compromettre la performance.
Classement
