Perspectives sur la cybersécurité : Adapter son approche face aux menaces de l'IA générative
Les cyberattaquants améliorent rapidement leurs techniques, rendant impératif pour les fournisseurs de cybersécurité de renforcer leurs défenses. À mesure que les entreprises adoptent de plus en plus l'IA, la demande pour des solutions de sécurité innovantes basées sur l'IA générative s'intensifie. Cette dynamique a fortement influencé l'évaluation par Menlo Ventures de huit domaines clés où l'IA générative a un impact significatif.
Menaces émergentes : êtes-vous prêt ?
Récemment, Rama Sekhar et Feyza Haskaraman de Menlo Ventures ont discuté de l'urgence de combler les lacunes de sécurité liées à l'IA. Sekhar, un nouveau partenaire focalisé sur la cybersécurité et l'IA, et Haskaraman, Principal en cybersécurité et SaaS, ont souligné que pour que l'IA bénéficie pleinement aux entreprises, une nouvelle pile technologique est essentielle, incluant la sécurité à chaque étape, des chaînes d'approvisionnement logicielles au développement de modèles.
Domaines d'impact prévus pour l'IA générative
Sekhar et Haskaraman ont identifié huit facteurs qui influenceront considérablement le paysage de la sécurité :
1. Gestion des risques fournisseurs et automatisation de la conformité : La gestion de la sécurité des applications tierces est cruciale à mesure que les organisations s'intègrent de plus en plus avec des fournisseurs externes. Les processus actuels, souvent manuels et sujets à des erreurs, sont des candidats idéaux pour l'automatisation avec l'IA générative. Par exemple, l'assistant IA de Dialect facilite le remplissage des questionnaires de sécurité pour des réponses plus efficaces et précises.
2. Formation à la sécurité améliorée : La formation à la sécurité traditionnelle est souvent insuffisante, entraînant des violations malgré d'importants investissements. L’IA générative offre un potentiel pour des scénarios de formation plus engageants et réalistes. Des outils comme Immersive Labs simulent des attaques, tandis que des co-pilotes de sécurité guident les employés dans des formations interactives sur des plateformes comme Slack.
3. Tests de pénétration (Pen Testing) : Avec l'utilisation de l'IA générative par les attaquants, les tests de pénétration doivent s'adapter. La simulation rapide de multiples attaques grâce à l'automatisation peut renforcer les stratégies de défense, englobant des tâches telles que les recherches dans les bases de données de menaces et les évaluations de vulnérabilités.
4. Détection et prévention des anomalies : L'IA générative améliore la capacité à surveiller les journaux d'événements et à détecter des activités anormales pouvant indiquer des tentatives d'intrusion. Cette technologie peut s'échelonner efficacement, apportant des couches de sécurité supplémentaires sur divers points de terminaison, réseaux, API et référentiels de données.
5. Détection et vérification de contenu synthétique : Les cybercriminels utilisent l'IA générative pour créer de fausses identités numériques, affectant significativement les entreprises. La FTC estime le coût d'un événement de fraude unique à plus de 15 000 dollars. Des entreprises comme Deduce et DeepTrust s'attaquent à ce problème par des méthodes de vérification d'identité avancées utilisant l'IA.
6. Revue de code : L'approche "shift left" en développement logiciel met l'accent sur des tests précoces pour améliorer la qualité et la sécurité. Cependant, de nombreux outils de sécurité automatisés sont inefficaces. Des start-ups comme Semgrep innovent dans ce domaine en proposant des règles personnalisables qui simplifient la détection et la correction des vulnérabilités.
7. Gestion des dépendances : Une majorité significative de bases de code utilise des composants open source, souvent de nombreux fournisseurs tiers. Des améliorations dans ce domaine sont prévues grâce à l'IA générative, notamment en matière de traçabilité des dépendances et de gestion des correctifs. Des entreprises comme Socket mènent des efforts pour détecter et atténuer les risques liés à la chaîne d'approvisionnement du code open source.
8. Automatisation de la défense et capacités SOAR : L'IA générative peut optimiser les opérations dans les centres d'opérations de sécurité (SOC) en améliorant l'exactitude des alertes et en réduisant les faux positifs, ce qui entrave la productivité des analystes. En automatisant les tâches routinières, les professionnels des SOC peuvent se concentrer sur des projets plus complexes et critiques.
Préparer l'avenir de la sécurité de l'IA
Pour que l'IA générative atteigne une intégration à l'échelle des entreprises, les organisations doivent d'abord s'attaquer aux défis de sécurité existants liés à l'adoption de l'IA. Les huit domaines identifiés soulignent la nécessité pour les entreprises d'améliorer leur préparation à une stratégie IA étendue. En tirant parti de l'IA générative, les organisations peuvent éliminer les tâches fastidieuses, permettant aux équipes de sécurité de se concentrer sur des menaces cybernétiques plus complexes et de renforcer les défenses contre la montée des attaques alimentées par l'IA.
Classement
