Was Ist Notwendig, um Generative KI abzusichern?
Eine aktuelle Studie von IBM und Amazon Web Services (AWS) zeigt, dass es keine einfache Lösung zur Absicherung von generativer KI (gen AI) gibt. Laut einer Umfrage des IBM Institute for Business Value unter führenden US-Executives verdeutlicht der Bericht die entscheidende Bedeutung von Sicherheit für KI-Initiativen. Erstaunliche 82 % der Führungsebene sind sich einig, dass sichere und vertrauenswürdige KI für den Geschäftserfolg unerlässlich ist.
Allerdings besteht ein drastischer Unterschied zwischen Absicht und Handlung: Derzeit sichern Organisationen lediglich 24 % ihrer generativen KI-Projekte ab. Diese Sicherheitsbedenken werden auch in einem PwC-Bericht thematisiert, der feststellt, dass 77 % der CEOs besorgt über Cyberrisiken im Zusammenhang mit KI sind.
Um diese Herausforderungen anzugehen, arbeitet IBM mit AWS zusammen, um die Sicherheit von gen AI zu verbessern. Heute wurde der IBM X-Force Red Testing Service für KI vorgestellt, der darauf abzielt, Sicherheitsmaßnahmen in der generativen KI voranzutreiben.
Die Innovations-Sicherheits-Dilemma meistern
Obwohl die Sicherung von Technologien grundlegend erscheint, priorisieren viele Organisationen Innovationen über Sicherheit. Der Bericht hebt hervor, dass 69 % der Organisationen Innovation an erste Stelle setzen und oft umfassende Sicherheitsmaßnahmen übersehen. Dimple Ahluwalia, Global Senior Partner für Cybersecurity Services bei IBM Consulting, merkt an, dass Führungskräfte unter Druck stehen, mit gen AI zu innovieren, wodurch Sicherheit oft zur Nebensache wird.
„Wie in den frühen Tagen des Cloud Computing“, so Ahluwalia, „drängen viele in die generative KI ohne angemessene Sicherheitsplanung, was letztendlich die Sicherheit gefährdet.“
Sicherheitsrahmen für effektive KI-Sicherung schaffen
Um Vertrauen in generative KI zu fördern, müssen Organisationen eine robuste Governance umsetzen. Dies umfasst die Erstellung von Richtlinien, Prozessen und Kontrollen, die mit den Unternehmenszielen in Einklang stehen – 81 % der Führungskräfte halten neue Governance-Modelle für entscheidend, um generative KI abzusichern.
Nach der Etablierung von Governance-Rahmenwerken können Organisationen Strategien entwickeln, um die gesamte KI-Pipeline abzusichern. Dies erfordert eine Zusammenarbeit von Sicherheits-, Technologie- und Geschäftsteams sowie die Nutzung der Expertise von Technologiepartnern für Strategieentwicklung, Schulungen, Kostenrechtfertigung und die Navigation durch Compliance-Anforderungen.
IBM X-Force Red Testing Service für KI
Neben Governance sind Validierung und Testing entscheidend für die Gewährleistung der Sicherheit. Der IBM X-Force Red Testing Service für KI ist IBMs erster speziell auf KI ausgerichteter Testdienst. Dieser Service versammelt ein diverses Team von Experten für Penetrationstests, KI-Systeme und Datenwissenschaft und nutzt Erkenntnisse aus der IBM-Forschung sowie das Adversarial Robustness Toolbox (ART).
Der Begriff „Red Teaming“ bezieht sich auf einen proaktiven Sicherheitsansatz, bei dem gegnerische Taktiken eingesetzt werden, um Schwachstellen zu identifizieren. Chris Thompson, Global Head of X-Force Red bei IBM, erklärt, dass der Fokus auf der Sicherheit und Zuverlässigkeit von KI-Modellen liegt, auch wenn traditionelle Red Team-Taktiken wie Stealth und Ausweichen bisher wenig Beachtung fanden.
„Die Art der Angriffe auf gen AI-Anwendungen ähnelt traditionellen Anwendungssicherheitsbedrohungen, jedoch mit einzigartigen Wendungen und erweiterten Angriffsflächen“, bemerkt Thompson.
Während wir uns durch 2024 bewegen, beobachtet IBM eine Konvergenz von Strategien, die echtes Red Teaming ähnelt. Ihr Ansatz umfasst vier Schlüsselbereiche: KI-Plattformen, die ML-Pipeline für das Tuning und Training von Modellen, die Produktionsumgebung für gen AI-Anwendungen und die Anwendungen selbst.
„Im Einklang mit unseren traditionellen Red Teaming-Bemühungen zielen wir darauf ab, verpasste Erkennungsmöglichkeiten aufzudecken und die Geschwindigkeit der Erkennung potenzieller Bedrohungen zu erhöhen, die diese innovativen KI-Lösungen anvisieren“, schließt Thompson.
Rangliste
