Mit dem Aufstieg fortschrittlicher KI-Technologien geht eine zunehmende Komplexität einher, insbesondere für Chief Information Security Officers (CISOs), die generative KI (Gen AI) nutzen. Dieser technologische Wandel ist entscheidend für Cybersecurity-Anbieter, die Risiken im ansteigenden KI-Risiko minimieren möchten. Leider haben Angreifer gelernt, KI zusammen mit sozialen Ingenieurtaktiken zu nutzen, was in diesem Jahr erhebliche Auswirkungen auf führende Unternehmen hatte.
Um einen Ausblick auf 2024 zu erhalten, fand eine virtuelle Diskussion mit 16 Cybersecurity-Führungskräften aus 13 Unternehmen statt. Die Einigkeit war deutlich: Eine starke Zusammenarbeit zwischen KI- und Cybersecurity-Experten ist für den zukünftigen Erfolg unerlässlich.
KI benötigt menschliche Einsichten, um Cyberbedrohungen effektiv zu bekämpfen. Die Managed Detection and Response (MDR) Übungen von MITRE haben gezeigt, dass die Integration menschlicher Intelligenz mit KI Sicherheitsvorfälle erkennen und neutralisieren kann, bevor sie eskalieren. Michael Sherwood, Chief Innovation and Technology Officer der Stadt Las Vegas, betonte dies in einem kürzlichen Interview.
Vorhersagen zur Rolle von Gen AI in der Cybersecurity
Peter Silva von Ericom, Teil der Cybersecurity-Einheit bei Cradlepoint, hob hervor, dass Gen AI die Mustererkennung zur Identifizierung von Angriffsvektoren und aufkommenden Schwachstellen verbessern könnte. Er warnte jedoch, dass KI auch die Erkennung erschwert, da Systeme Schwierigkeiten haben können, zwischen menschlich erzeugten und KI-generierten Phishing-Attacken zu unterscheiden.
Elia Zaitsev, CTO von CrowdStrike, stellte fest, dass Cyberkriminelle im Jahr 2024 möglicherweise zunehmend KI-Systeme gezielt angreifen werden, insbesondere durch Schwachstellen in genehmigten KI-Anwendungen und ungenutzte Stellen durch nicht autorisierte KI-Tools von Beschäftigten. Er warnte, dass Unternehmen ihre internen KI-Implementierungen überprüfen und robuste Richtlinien entwickeln müssen, um Risiken zu minimieren.
Rob Gurzeev, CEO von CyCognito, äußerte, dass Gen AI zwar positive Auswirkungen auf die Sicherheit haben wird, gleichzeitig jedoch auch zu Selbstzufriedenheit bei Sicherheitsteams führen könnte. Er mahnte, nicht zu sehr auf KI zu vertrauen, um Lücken in den Sicherheitsoperationen zu vermeiden.
Howard Ting, CEO von Cyberhaven, berichtete, dass eine Studie ergeben hat, dass 4,7 % der Mitarbeiter vertrauliche Daten in KI-Tools wie ChatGPT eingegeben haben. Er glaubt, dass die Fortschritte in der KI die Sicherheits-Teams im Laufe der Zeit stärken werden.
John Morello, Mitgründer und CTO von Gutsy, erwähnte, dass Gen AI das Management großer Mengen an Ereignisdaten durch Sicherheitsteams erheblich verbessern könnte, indem veraltete Methoden in benutzerfreundliche Formate umgewandelt werden.
Jason Urso, CTO von Honeywell Connected Enterprise, prognostizierte, dass Gen AI es selbst unerfahrenen Hackern ermöglichen wird, ausgeklügelte Angriffe auszuführen, was zu einem Wettkampf zwischen KI und KI im Cybersecurity-Bereich führt.
Srinivas Mukkamala, Chief Product Officer von Ivanti, wies auf die zunehmende Angst der Mitarbeiter um ihre Jobs durch KI hin. Er betonte die Notwendigkeit von Transparenz seitens der Führungskräfte in Bezug auf KI-Integrationsstrategien, um Talente zu halten, da effektive KI nach wie vor menschliche Aufsicht erfordert.
Mukkamala sagte auch eine Zunahme anspruchsvoller sozialer Ingenieuranriffe voraus, da bessere KI-Tools noch glaubwürdigere Phishing-Versuche ermöglichen.
Merritt Baer, Field CISO bei Lacework, sieht eine veränderte Arbeitsumgebung, in der Gen AI bei der Automatisierung von Aufgaben hilft, sodass sich Menschen auf strategisches Denken und Kreativität konzentrieren können.
Ankur Shah, SVP von Prisma Cloud bei Palo Alto Networks, betonte, dass Sicherheitsteams das rasante Tempo der Anwendungsentwicklung managen müssen, das durch Künstliche Intelligenz erheblich beschleunigt werden soll. Er warnte, dass ohne starke Sicherheitsdaten die Effektivität von KI zur Risikoprävention beeinträchtigt werden könnte.
Matt Kraning, CTO von Cortex bei Palo Alto Networks, erklärte, dass Gen AI die Interaktion mit Daten für Sicherheitsanalysten erleichtern wird, wodurch eine einfachere Analyse und Reaktion auf Bedrohungen möglich wird.
Christophe Van de Weyer, CEO von Telesign, merkte an, dass 2023 Rekordzahlen an Phishing-Vorfällen verzeichnet wurden, die durch Kriminelle verstärkt wurden, die Gen AI nutzen, um überzeugende Botschaften zu erstellen. Er glaubt, dass Organisationen ihre Abwehrmaßnahmen verbessern und KI zur Verbesserung der Betrugserkennung einsetzen müssen.
Rob Robinson, Head of Telstra Purple EMEA, bemerkte, dass die wachsende Anzahl an Datensätzen für die Sicherheitsüberwachung einen Wandel der Fähigkeiten von CISOs erforderlich machen wird, wobei KI als Schlüssel zur Bewältigung von Sicherheitsherausforderungen hervorsticht.
Vineet Arora, CTO von WinWire, bekräftigte, dass Gen AI die Automatisierung der Cybersicherheit erheblich verbessern wird, sodass Sicherheitsfachleute sich auf komplexe Herausforderungen konzentrieren können, während auch Raum für böswillige Akteure bleibt, die ihr Potenzial ausnutzen.
Claudionor Coelho, Chief AI Officer, und Sanjay Kalra, VP Product Management bei Zscaler, sagten voraus, dass Gen AI die Compliance-Bemühungen revolutionieren wird, indem zuvor zeitaufwendige Prozesse automatisiert werden.
Clint Dixon, CIO eines globalen Logistikunternehmens, fasste die Zukunft der Cybersicherheit als stark auf KI angewiesen zusammen, angesichts des rasanten Wachstums und der Komplexität von Daten.
Zusammenfassend lässt sich sagen, dass die Integration von Gen AI in die Cybersecurity ein enormes Potenzial zur Verbesserung der Verteidigung und zur Optimierung von Abläufen bietet, aber auch neue Herausforderungen und Risiken mit sich bringt, die Organisationen im Jahr 2024 sorgfältig navigieren müssen.
Rangliste
