CISOs und CIOs bewerten die Vorteile von generativer KI als kontinuierliche Lernmaschine, die Verhaltensdaten, Telemetrie sowie Informationen zu Eindringlingen und Sicherheitsvorfällen erfasst, und setzen diese gegen die damit verbundenen Risiken ab. Ziel ist es, eine neue „Muskelgedächtnis“-Basis für Bedrohungsintelligenz zu etablieren, um die Vorhersage von Sicherheitsvorfällen zu verbessern und die SecOps-Workflows zu optimieren.
Das Vertrauen in generative KI ist jedoch geteilt. Aktuelle Gespräche mit CISOs aus verschiedenen Produktions- und Dienstleistungssektoren zeigen, dass trotz potenzieller Produktivitätsgewinne in den Bereichen Marketing, Betrieb und Sicherheit vor allem Bedenken hinsichtlich des Schutzes von geistigem Eigentum und der Datenvertraulichkeit von den Vorstandsmitgliedern geäußert werden.
Die aktuelle Umfrage von Deep Instinct mit dem Titel „Generative AI and Cybersecurity: Bright Future of Business Battleground?“ quantifiziert die Erkenntnisse aus CISO-Interviews. Die Forschung zeigt, dass 69 % der Organisationen generative KI-Tools eingeführt haben, während 46 % der Cybersicherheitsfachleute der Meinung sind, dass diese Tools die Wahrscheinlichkeit von Angriffen erhöhen. Erschreckende 88 % der CISOs und Sicherheitsleiter sind sich sicher, dass waffenfähige KI-Angriffe unvermeidlich sind.
Fünfundachtzig Prozent der Befragten vermuten, dass kürzliche Angriffe von generativer KI unterstützt wurden, insbesondere mit dem Auftreten von WormGPT, einem generativen KI-Tool, das in unterirdischen Foren für Phishing- und Geschäfts-E-Mail-Kompositionsangriffe beworben wird. Tools wie FraudGPT haben schnell an Popularität im Dark Web gewonnen und zeigen die rasante Kommerzialisierung waffenfähiger KI.
Sven Krasser, Chief Scientist und Senior Vice President bei CrowdStrike, stellt fest, dass Angreifer die Waffisierung großer Sprachmodelle (LLMs) und generativer KI beschleunigen. Obwohl dies die Geschwindigkeit und das Volumen der Angriffe erhöht, betont Krasser, dass es die Qualität dieser Angriffe nicht grundlegend verbessert. Er schlägt vor, dass cloud-basierte Sicherheitslösungen, die KI zur Korrelation globaler Signale nutzen, diese sich entwickelnden Bedrohungen effektiv bekämpfen können.
Max Heinemeyer, Director of Threat Hunting bei Darktrace, warnt, dass Unternehmen cyber-basierte KI zur Verteidigung implementieren müssen, bevor offensive KI verbreitet wird. Er betont, dass in einem Konflikt, der in Algorithmenkämpfen gipfelt, nur autonome Antworten in Maschinengeschwindigkeit effektiv gegen KI-verbesserte Angriffe helfen können.
Der Markt für Anwendungen der generativen KI expandiert rasant. Die kontinuierliche Lernfähigkeit von generativer KI ist besonders vorteilhaft für die Analyse der riesigen Datenmengen, die von Endgeräten erzeugt werden. Laufende Updates der Bedrohungsbewertungs- und Risikopriorisierungsalgorithmen könnten neue Anwendungsfälle liefern, die CISOs und CIOs zur Verbesserung der Bedrohungsvorhersage anstreben. Beispielsweise zielt die Partnerschaft von Ivanti mit Securin darauf ab, eine Risikopriorisierung in Echtzeit bereitzustellen und die Sicherheitslage zu verbessern.
Die Zusammenarbeit zwischen Ivanti und Securin kombiniert die Vulnerability Intelligence (VI) von Securin mit Ivanti Neurons für ein nahezu Echtzeit-Bedrohungsintelligenz-Ökosystem. Dr. Srinivas Mukkamala, Chief Product Officer bei Ivanti, hebt die Vorteile von KI-unterstützter menschlicher Intelligenz zur Bereitstellung umfassender Bedrohungsintelligenz und Risikopriorisierung hervor.
Der Markt für generative KI in der Cybersicherheit wird von 1,6 Milliarden US-Dollar im Jahr 2022 auf 11,2 Milliarden US-Dollar bis 2032 steigen, was einer jährlichen Wachstumsrate (CAGR) von 22 % entspricht. Canalys erwartet, dass generative KI in den nächsten fünf Jahren über 70 % der Cybersicherheitsoperationen unterstützen wird.
Forrester kategorisiert Anwendungsfälle von generativer KI in drei Hauptbereiche: Inhaltserstellung, Verhaltensvorhersage und Wissensartikulation. Allie Mellen, Principal Analyst bei Forrester, weist darauf hin, dass die Integration von KI und maschinellem Lernen in Sicherheitstools zwar nicht neu ist, sich jedoch weiterentwickelt, um historische Daten und Risikobewertungsmethodiken effektiver zu nutzen.
Gartner prognostiziert, dass bis 2026 80 % der Anwendungen über generative KI-Funktionen verfügen werden, was auf eine rasche Einführung innerhalb von Organisationen hinweist. CISOs betonen, dass die Anpassungsfähigkeit einer Plattform entscheidend ist, um den Wert von generativen KI-Anwendungen zu maximieren, insbesondere zur Verbesserung umfassender Zero-Trust-Sicherheitsframeworks.
Um generative KI erfolgreich in ein Zero-Trust-Framework zu integrieren, empfehlen CISOs, alle Anwendungen, Plattformen, Tools und Endpunkte durch kontinuierliche Überwachung, dynamische Zugriffskontrollen und fortlaufende Verifizierung abzusichern. Die Einführung von generativer KI könnte neue Angriffsvektoren mit sich bringen, was CISOs dazu veranlasst, sich auf den Schutz vor Abfrageangriffen, Prompt-Injektionen, Modellmanipulation und Datenvergiftung zu konzentrieren.
Das Wissensmanagement mit generativer KI entwickelt sich als wichtiger Anwendungsfall, der langwierige und kostspielige Systemintegrationsprojekte ersetzt. Auf der RSAC 2023 haben mehrere Anbieter ChatGPT-basierte Lösungen vorgestellt, darunter Google Security AI Workbench, Microsoft Security Copilot und andere, was den Trend zu KI-gestützter Sicherheit verdeutlicht.
Die Einführung von Charlotte AI durch CrowdStrike zielt darauf ab, die Produktivität von Sicherheitsanalysten zu steigern, indem repetitive Aufgaben automatisiert und die Prozesse zur Bedrohungserkennung durch konversationelle KI verbessert werden. Charlotte AI, die im Laufe des nächsten Jahres ausgerollt wird, erfasst Echtzeitinteraktionen, um Bedrohungen effektiv zu verfolgen.
Cloud-Konfigurationsfehler bleiben ein bedeutendes Ziel für Angreifer, mit einer Zunahme der Ausnutzungsfälle um 95 % im Vergleich zum Vorjahr. Angesichts dieser wachsenden Bedrohungslandschaft prognostizieren Experten eine verstärkte M&A-Aktivität, die darauf abzielt, die Sicherheit in Mehrcloud- und Hybrid-Cloud-Umgebungen zu verbessern. Die Übernahme von Bionic durch CrowdStrike veranschaulicht diesen Trend und betont die Bedeutung von generativer KI zur Stärkung der Cybersicherheitsmaßnahmen insgesamt.
Rangliste
