Acht vielversprechende Möglichkeiten für KI zur Verbesserung der Sicherheit

Cybersecurity-Insights: Anpassung an die Bedrohungen durch Generative KI

Cyberangreifer entwickeln ihre Techniken rasant weiter, was es unerlässlich macht, dass Cybersecurity-Anbieter ihre Abwehrmechanismen verbessern. Mit der zunehmenden Verbreitung von KI in Unternehmen wächst die Nachfrage nach innovativen, generativen KI-basierten Sicherheitslösungen. Diese Tatsache hat die Bewertung von Menlo Ventures in acht Schlüsselbereichen stark beeinflusst, in denen generative KI erheblichen Einfluss hat.

Neue Bedrohungen: Sind Sie vorbereitet?

Jüngst diskutierten Rama Sekhar und Feyza Haskaraman von Menlo Ventures die Dringlichkeit, Sicherheitslücken in der KI zu schließen. Sekhar, ein neuer Partner mit Fokus auf Cybersecurity und KI, und Haskaraman, Principal im Bereich Cybersecurity und SaaS, betonten, dass eine neue Technologiearchitektur notwendig ist, damit Unternehmen von KI profitieren können – eine, die Sicherheit in jeder Phase priorisiert, von der Softwarelieferkette bis zur Modellentwicklung.

Vorhergesagte Einflussbereiche für Generative KI

Sekhar und Haskaraman identifizierten acht Faktoren, die die Sicherheitslandschaft erheblich beeinflussen werden:

1. Anbieterrisiko-Management und Compliance-Automatisierung: Das Management der Sicherheit von Drittanbieteranwendungen ist entscheidend, da Organisationen zunehmend mit externen Anbietern interagieren. Derzeitige Prozesse sind oft manuell und fehleranfällig, sodass sie ideale Kandidaten für die Automatisierung durch generative KI sind. Beispielsweise optimiert der KI-Assistent von Dialect die Bearbeitung von Sicherheitsfragebögen für effiziente und präzise Antworten.

2. Verbesserte Sicherheitsschulungen: Traditionelle Sicherheitsschulungen sind oft unzureichend, was trotz erheblicher Investitionen zu Sicherheitsvorfällen führt. Generative KI bietet das Potenzial für ansprechendere, realistischere Schulungsszenarien. Tools wie Immersive Labs simulieren Angriffe, während Sicherheit-Copiloten Mitarbeiter durch interaktive Schulungen in Plattformen wie Slack begleiten.

3. Penetrationstests (Pen Testing): Da Angreifer generative KI nutzen, müssen sich Penetrationstests anpassen. Die schnelle Simulation mehrerer Angriffe mithilfe von KI-Automatisierung kann Verteidigungsstrategien stärken, Aufgaben wie Bedrohungsdatenbankabfragen und Schwachstellenbewertungen einschließen und die Berichterstattung vereinfachen.

4. Anomalieerkennung und -prävention: Generative KI verbessert die Fähigkeit zur Überwachung von Ereignisprotokollen und zur Erkennung ungewöhnlicher Aktivitäten, die auf Versuche von Eindringlingen hinweisen könnten. Diese Technologie kann effektiv skalieren und zusätzliche Sicherheitsschichten über verschiedene Endpunkte, Netzwerke, APIs und Datenrepositories hinweg bieten.

5. Erkennung und Verifizierung synthetischer Inhalte: Cyberkriminelle verwenden generative KI zur Erstellung gefälschter digitaler Identitäten, was erhebliche Auswirkungen auf Unternehmen hat. Die FTC schätzt, dass die Kosten eines einzigen Betrugsfalls 15.000 USD übersteigen. Unternehmen wie Deduce und DeepTrust arbeiten an fortschrittlichen Identitätsprüfungs-Methoden, um zwischen legitimen und synthetischen Identitäten zu unterscheiden.

6. Code-Überprüfung: Der "Shift Left"-Ansatz in der Softwareentwicklung konzentriert sich auf frühes Testen zur Verbesserung von Qualität und Sicherheit. Viele automatisierte Sicherheitswerkzeuge erweisen sich jedoch als ineffizient. Startups wie Semgrep innovieren in diesem Bereich und bieten anpassbare Regeln zur Vereinfachung von Schwachstellenerkennung und -behebung.

7. Abhängigkeitsmanagement: Eine erhebliche Mehrheit der Codebasen nutzt Open-Source-Komponenten, oft von zahlreichen Drittanbietern. Verbesserungen in diesem Bereich werden durch generative KI erwartet, insbesondere hinsichtlich der Rückverfolgbarkeit von Abhängigkeiten und des Patch-Managements. Anbieter wie Socket führen die Bemühungen an, um Risiken in der Lieferkette bei Open-Source-Code zu erkennen und zu mindern.

8. Verteidigungsautomatisierung und SOAR-Fähigkeiten: Generative KI kann die Abläufe in Security Operations Centers (SOCs) optimieren, indem sie die Genauigkeit der Warnmeldungen verbessert und falsch-positive Ergebnisse reduziert, die die Produktivität von Analysten beeinträchtigen. Durch die Automatisierung routinemäßiger Aufgaben können SOC-Profis sich auf wichtigere, komplexe Projekte konzentrieren.

Vorbereitung auf die Zukunft der KI-Sicherheit

Damit generative KI auf Unternehmensebene integriert werden kann, müssen Organisationen zunächst bestehende Sicherheitsherausforderungen im Zusammenhang mit der KI-Einführung angehen. Die identifizierten acht Bereiche verdeutlichen die Notwendigkeit für Unternehmen, ihre Bereitschaft für eine umfassende KI-Strategie zu verbessern. Durch den Einsatz von generativer KI können Organisationen mühsame Aufgaben beseitigen und ihren Sicherheitsteams ermöglichen, sich auf komplexere Cyberbedrohungen zu konzentrieren und die Abwehrkräfte gegen die wachsende Bedrohung durch KI-gesteuerte Angriffe zu stärken.