Para escalar de forma efectiva grandes modelos de lenguaje (LLMs) en iniciativas de inteligencia artificial a largo plazo, las empresas están adoptando cada vez más los marcos de generación aumentada por recuperación (RAG). Sin embargo, este cambio exige una sólida seguridad contextual para satisfacer las crecientes demandas de integración.
La seguridad de RAG requiere inteligencia contextual
Los métodos tradicionales de control de acceso RAG no ofrecen la supervisión contextual necesaria. Dado que RAG carece de control de acceso incorporado, representa un riesgo de seguridad significativo al permitir potencialmente el acceso no autorizado a información sensible.
Limitaciones de los controles de acceso tradicionales
El Control de Acceso Basado en Roles (RBAC) es demasiado rígido para adaptarse a solicitudes contextuales dinámicas, mientras que el Control de Acceso Basado en Atributos (ABAC) enfrenta problemas de escalabilidad y costos de mantenimiento más altos. Existe una necesidad clara de un enfoque más sofisticado que aumente la protección sin sacrificar el rendimiento.
Presentando el Control de Acceso Basado en Contexto (CBAC)
Reconociendo estas carencias, Lasso Security desarrolló el Control de Acceso Basado en Contexto (CBAC) para mejorar la gestión del acceso contextual. CBAC evalúa dinámicamente el contexto de todas las solicitudes de acceso a LLMs, incluyendo la evaluación de accesos, respuestas, interacciones, comportamientos y modificaciones de datos. Este enfoque integral garantiza una sólida seguridad, previniendo el acceso no autorizado y manteniendo altos estándares en los marcos de LLM y RAG.
Ophir Dror, cofundador y CPO de Lasso Security, enfatizó: “Los métodos tradicionales se centran en criterios estáticos, fallan en gestionar efectivamente el contexto y pueden dejar a las organizaciones vulnerables.” CBAC aborda estas deficiencias al asegurar que solo los usuarios autorizados tengan acceso a información específica, protegiendo así los datos sensibles de divulgación inapropiada por parte de chatbots.
¿Qué es la generación aumentada por recuperación (RAG)?
En 2020, investigadores de Facebook AI Research, University College London y New York University publicaron un documento fundamental sobre RAG, definiéndolo como un método que combina modelos preentrenados con un sistema de memoria no paramétrica. Al permitir un procesamiento más efectivo de los datos empresariales, RAG mejora significativamente las capacidades de los LLMs. Gartner explica que RAG aborda las limitaciones de los LLMs convencionales, permitiendo la integración de información empresarial relevante. El gráfico adjunto ilustra cómo funciona RAG.
Diseñando CBAC para la integración de RAG
Dror compartió que CBAC está diseñado para flexibilidad, funcionando como una solución independiente o integrándose sin problemas con sistemas existentes como Active Directory. Esta versatilidad facilita su adopción sin requerir cambios importantes en las infraestructuras actuales de LLM.
Aunque puede operar de forma independiente, CBAC también se integra dentro del conjunto de soluciones de seguridad de IA generativa de Lasso Security. Esto garantiza una protección integral para las interacciones de los empleados con chatbots basados en IA, aplicaciones y modelos. Lasso Security supervisa constantemente las transferencias de datos e identifica rápidamente anomalías o violaciones de políticas, asegurando un entorno seguro y conforme.
Dror elaboró que CBAC evalúa constantemente diversos indicadores contextuales para aplicar políticas de control de acceso, permitiendo así que solo el personal autorizado acceda a información sensible, incluso en documentos que contienen tanto datos confidenciales como públicos.
Abordando los desafíos de seguridad
Dror señaló que las organizaciones que implementan RAG a menudo enfrentan preguntas críticas sobre permisos de acceso. A medida que aumenta la adopción de RAG, las limitaciones de los LLMs—como alucinaciones y dificultades de entrenamiento de datos—intensifican la urgencia de resolver problemas de permisos. CBAC fue desarrollado para enfrentar estos desafíos proporcionando las percepciones contextuales necesarias que habilitan estrategias de control de acceso dinámico.
A medida que RAG se vuelve fundamental para las estrategias de LLM y AI de las organizaciones, la inteligencia contextual será esencial para fomentar soluciones seguras y escalables sin comprometer el rendimiento.
Clasificación
