Um große Sprachmodelle (LLMs) im Rahmen langfristiger KI-Initiativen effektiv zu skalieren, setzen Unternehmen zunehmend auf Retrieval-Augmented Generation (RAG)-Frameworks. Dieser Übergang erfordert jedoch robuste kontextuelle Sicherheitsmaßnahmen, um den wachsenden Anforderungen an die Integration gerecht zu werden.
Kontextuelle Sicherheit für RAGs
Herkömmliche Zugriffssteuerungsmethoden für RAG bieten nicht die notwendige kontextuelle Übersicht. Da RAG keine integrierte Zugriffssteuerung besitzt, besteht ein erhebliches Sicherheitsrisiko, da unbefugter Zugriff auf sensible Informationen ermöglicht werden könnte.
Einschränkungen traditioneller Zugriffssteuerungen
Die rollenbasierte Zugriffssteuerung (RBAC) ist zu starr, um sich dynamischen Kontextanforderungen anzupassen, während attributbasierte Zugriffskontrolle (ABAC) mit Skalierbarkeit kämpft und höhere Wartungskosten verursacht. Es besteht ein klarer Bedarf an einem raffinierteren Ansatz, der den Schutz erhöht, ohne die Leistung zu beeinträchtigen.
Einführung in die kontextbasierte Zugriffssteuerung (CBAC)
Um diese Lücken zu schließen, hat Lasso Security die kontextbasierte Zugriffssteuerung (CBAC) entwickelt, um das Management des Zugriffs zu optimieren. CBAC bewertet dynamisch den Kontext aller Zugriffsanfragen an LLMs, einschließlich der Prüfung von Zugriffs-, Antwort-, Interaktions-, Verhaltens- und Datenänderungsanfragen. Dieser umfassende Ansatz gewährleistet robuste Sicherheit, verhindert unbefugten Zugriff und hält hohe Standards innerhalb von LLM- und RAG-Frameworks aufrecht.
Ophir Dror, Mitgründer und CPO von Lasso Security, betonte: „Traditionelle Methoden konzentrieren sich auf statische Kriterien, verwalten den Kontext nicht effizient und können Organisationen verwundbar machen.“ CBAC behebt diese Mängel, indem sichergestellt wird, dass nur autorisierte Benutzer auf bestimmte Informationen zugreifen können, wodurch sensible Daten vor unangemessener Offenbarung durch Chatbots geschützt werden.
Was ist Retrieval-Augmented Generation (RAG)?
Im Jahr 2020 veröffentlichten Forscher von Facebook AI Research, University College London und New York University ein grundlegendes Papier über RAG, das es als Methode definiert, die vortrainierte Modelle mit einem nicht-parametrischen Gedächtnissystem kombiniert. Durch die effektivere Verarbeitung von Unternehmensdaten verbessert RAG erheblich die Fähigkeiten von LLMs. Gartner erklärt, dass RAG die Einschränkungen herkömmlicher LLMs adressiert und die Integration relevanter Unternehmensinformationen ermöglicht. Die beigefügte Grafik veranschaulicht die Funktionsweise von RAG.
Entwicklung von CBAC für RAG-Integration
Dror teilte mit, dass CBAC für Flexibilität konzipiert ist, als eigenständige Lösung oder nahtlos in bestehende Systeme wie Active Directory integriert werden kann. Diese Vielseitigkeit erleichtert die Einführung, ohne größere Änderungen an den bestehenden LLM-Infrastrukturen vorzunehmen.
Während es in der Lage ist, unabhängig zu operieren, integriert sich CBAC auch in die generative KI-Sicherheits-Suite von Lasso Security. Dies gewährleistet umfassenden Schutz für Mitarbeiterinteraktionen mit KI-basierten Chatbots, Anwendungen und Modellen. Lasso Security überwacht kontinuierlich Datenübertragungen und identifiziert schnell Anomalien oder Richtlinienverletzungen, um eine sichere, konforme Umgebung zu gewährleisten.
Dror erläuterte, dass CBAC ständig verschiedene kontextuelle Indikatoren bewertet, um die Zugriffssteuerungsrichtlinien durchzusetzen, sodass nur autorisiertes Personal auf sensible Informationen zugreifen kann—selbst in Dokumenten, die sowohl vertrauliche als auch öffentlich relevante Daten enthalten.
Bewältigung von Sicherheitsherausforderungen
Dror stellte fest, dass Organisationen, die RAG implementieren, häufig kritische Fragen zu Zugriffsberechtigungen stellen müssen. Mit dem Anstieg der RAG-Nutzung verstärken sich die Einschränkungen der LLMs—wie Halluzinationen und Schwierigkeiten bei der Datenverarbeitung—und erhöhen damit den Druck, Berechtigungsprobleme zu lösen. CBAC wurde entwickelt, um diese Herausforderungen anzugehen, indem es die notwendigen kontextuellen Einblicke bietet, um dynamische Zugriffssteuerungsstrategien zu ermöglichen.
Da RAG zunehmend zentral für die LLM- und KI-Strategien von Organisationen wird, wird kontextuelle Intelligenz entscheidend sein, um sichere und skalierbare Lösungen zu fördern, ohne die Leistung zu beeinträchtigen.
Rangliste
