Im Bereich der Cybersicherheit hebt das "Dilemma des Verteidigers" eine harte Realität hervor: Verteidiger sind ständig in Alarmbereitschaft und arbeiten unermüdlich daran, Sicherheitsverletzungen zu verhindern, während Angreifer nur eine einzige Gelegenheit benötigen, um erheblichen Schaden zu verursachen.
Um diesen unaufhörlichen Kreislauf zu durchbrechen, setzt sich Google für die Integration fortschrittlicher KI-Tools in Cybersicherheitsstrategien ein.
Ankündigung der KI-Cybersicherheitsinitiative
Vor der Münchener Sicherheitskonferenz (MSC) am 16. Februar stellte Google seine "AI Cyber Defense Initiative" vor und kündigte mehrere Verpflichtungen in Bezug auf KI und Cybersicherheit an. Diese Ankündigung folgt ähnlichen Erklärungen von Microsoft und OpenAI, die die Bedeutung des "sicheren und verantwortungsvollen" Einsatzes von KI zur Minderung adversarialer Bedrohungen betonten.
Während sich globale Führungspersönlichkeiten im Rahmen der MSC versammeln, um internationale Sicherheitspolitik zu erörtern, sind Technologiefirmen bestrebt, ihre proaktive Haltung zur Cybersicherheit zu demonstrieren.
„Die KI-Revolution ist bereits im Gange“, erklärte Google in einem Blogbeitrag. „Wir sind begeistert von der Fähigkeit der KI, generationsübergreifende Sicherheitsherausforderungen zu adressieren und eine vertrauenswürdige digitale Welt zu schaffen.“
Verpflichtungen zur KI-gesteuerten Sicherheit
Während der Konferenz in München werden mehr als 450 Entscheidungsträger aus verschiedenen Bereichen Themen wie Technologie, transatlantische Sicherheit und globale Governance erörtern. Die MSC zielt darauf ab, die Dialoge über Technologie-Regulierung und deren Auswirkungen auf inklusive Sicherheit und Zusammenarbeit voranzutreiben.
Da KI für Führungskräfte und Regulierer ein zentrales Anliegen darstellt, verpflichtet sich Google, in "KI-gerechte Infrastruktur" zu investieren, neue Verteidigungstools bereit zu stellen und Schulungsinitiativen zur KI-Sicherheit zu starten.
Eine zentrale Ankündigung ist die Gründung einer neuen Kohorte "AI for Cybersecurity", die 17 Start-ups aus den USA, dem Vereinigten Königreich und der EU umfasst. Diese Initiative hat zum Ziel, das transatlantische Cybersicherheitsökosystem durch Internationalisierungsstrategien, KI-Tools und die notwendigen Fähigkeiten für eine effektive Umsetzung zu stärken.
Zusätzliche Initiativen von Google umfassen:
- Die Erweiterung des 15 Millionen Dollar schweren Google.org Cybersecurity Seminars Programms zur Verbesserung der Ausbildung für Cybersicherheitsexperten in unterversorgten Gemeinden in Europa.
- Die Einführung von Magika, einem Open-Source-KI-Tool zur Identifizierung von Dateitypen, das die Malware-Erkennung mit einer 30%igen Steigerung der Genauigkeit und bis zu 95% höherer Präzision bei herausfordernden Inhaltstypen wie VBA und JavaScript verbessert.
- Die Bereitstellung von 2 Millionen Dollar an Forschungsgeldern für Institutionen wie die University of Chicago, die Carnegie Mellon University und die Stanford University zur Verbesserung der Codeverifikation und Entwicklung robusterer Bedrohungserkennungsalgorithmen.
Darüber hinaus betont Google die Bedeutung seines Secure AI Frameworks, das im Juni eingeführt wurde, um Organisationen bei der Umsetzung bewährter Praktiken für KI-Sicherheit zu unterstützen.
„KI-Sicherheitstechnologien müssen von Anfang an sicher sein“, erklärt Google und unterstreicht die Notwendigkeit gezielter Investitionen und effektiver regulatorischer Rahmenbedingungen, um die Vorteile von KI zu maximieren und missbräuchliche Nutzung einzuschränken.
Gemeinsame Anstrengungen gegen den Missbrauch von KI
In einer gemeinsamen Ankündigung warnten Microsoft und OpenAI vor dem zunehmenden Einsatz von KI durch böswillige Akteure als Produktivitätswerkzeug. OpenAI hat den Zugriff für Konten, die mit staatlich geförderten Bedrohungsgruppen aus Ländern wie China, Iran, Nordkorea und Russland verbunden sind, widerrufen und festgestellt, dass deren Taktiken Code-Debugging, Erstellung von Phishing-Inhalten und Sammlung von Informationen umfassen.
Die beiden Unternehmen setzen sich dafür ein, die verantwortungsvolle Nutzung von KI-Technologien zu gewährleisten, wobei Microsoft Prinzipien skizziert, die sich auf die Identifizierung böswilliger Nutzung, die Zusammenarbeit mit Interessengruppen und die Information der Öffentlichkeit über den Missbrauch von KI konzentrieren.
Zunehmende Cyberbedrohungen und die Rolle der KI
Das Bedrohungsintelligenzteam von Google berichtet von einem Anstieg der Cyberbedrohungen, der durch die Professionalisierung unter Angreifern und die Priorisierung offensiver Fähigkeiten in geopolitischen Kontexten bedingt ist. Länder wie China, Russland, Nordkorea und Iran investieren stark in KI sowohl für offensive als auch defensive Zwecke, was erhebliche Risiken in verschiedenen Sektoren mit sich bringt.
Angreifer nutzen KI, um soziale Engineering-Maßnahmen zu verbessern, ausgeklügelte Phishing-Schemata zu erstellen und Informationen zu manipulieren. Google warnt, dass die Evolution der KI-Technologie böswillige Operationen erheblich stärken könnte.
Andererseits bietet KI Verteidigern erhebliche Vorteile bei der Schwachstellenerkennung, der Vorfallreaktion und der Malware-Analyse. KI kann Prozesse zur Bedrohungsintelligenz optimieren, Malware klassifizieren und Bedrohungen priorisieren, was die Cybersicherheitslandschaft grundlegend verändert.
Die eigenen Erkennungsteams von Google haben generative KI genutzt, um Vorfallzusammenfassungen zu verbessern und die Effizienz sowie die Qualität der Ergebnisse zu steigern. Das Unternehmen verzeichnet auch eine 40%ige Steigerung der Spam-Erkennungsraten durch fortschrittliche Verarbeitungsmodelle und eine 15%ige Reduktion von Fehlern in Codeverifikationsprozessen dank robuster KI-Anwendungen.
Letztlich glauben die Forscher von Google: „KI bietet eine kritische Gelegenheit, das Dilemma des Verteidigers zu überwinden und das Gleichgewicht im Cyberspace zugunsten der Verteidiger zu verschieben.“
Rangliste
