Les CISOs et CIOs évaluent les avantages de l'utilisation de l'IA générative comme moteur d'apprentissage continu, capable de capter des données comportementales, des télémetries, ainsi que des informations sur les intrusions et les violations, tout en tenant compte des risques associés. L'objectif est d'établir une nouvelle "mémoire musculaire" en matière d'intelligence des menaces pour améliorer la prédiction des violations et optimiser les workflows de SecOps.
Cependant, la confiance en l'IA générative est partagée. Des discussions récentes avec des CISOs de divers secteurs de la fabrication et des services montrent que, malgré les gains de productivité potentiels dans le marketing, les opérations et la sécurité, les inquiétudes concernant la propriété intellectuelle compromise et la confidentialité des données demeurent des préoccupations majeures parmi les membres du conseil.
L'enquête récente de Deep Instinct, "Generative AI and Cybersecurity: Bright Future of Business Battleground?", quantifie les informations recueillies lors d'interviews avec des CISOs. La recherche indique que 69% des organisations ont adopté des outils d'IA générative, bien que 46% des professionnels de la cybersécurité estiment que ces outils augmentent la probabilité des attaques. Un chiffre impressionnant de 88% des CISOs et des responsables de la sécurité affirment que les attaques alimentées par l'IA sont inévitables.
Quatre-vingt-cinq pour cent des répondants suspectent que des attaques récentes ont été alimentées par l'IA générative, notamment avec l'émergence de WormGPT, un outil d'IA générative commercialisé sur des forums clandestins pour des attaques de phishing et de compromission d'e-mails professionnels. Des outils comme FraudGPT ont rapidement pris de l'ampleur sur le dark web, illustrant la commercialisation rapide de l'IA militarisée.
Sven Krasser, Chief Scientist et Senior Vice President chez CrowdStrike, a noté que les attaquants accélèrent la militarisation des grands modèles linguistiques (LLMs) et de l'IA générative. Bien que cela augmente le rythme et le volume des attaques, Krasser souligne que cela n'améliore pas fondamentalement la qualité de ces attaques. Il suggère que la sécurité basée sur le cloud utilisant l'IA pour corréler les signaux mondiaux peut contrer efficacement ces menaces évolutives.
Max Heinemeyer, Directeur de la chasse aux menaces chez Darktrace, avertit que les entreprises doivent mettre en œuvre l'IA cybersécuritaire pour se défendre avant que l'IA offensive ne devienne répandue. Il affirme que lorsque le conflit se transforme en algorithmes affrontant d'autres algorithmes, seules des réponses autonomes à des vitesses machine pourront efficacement contrer les attaques améliorées par l'IA.
Le marché des applications d'IA générative est en pleine expansion. La capacité de l'IA générative à apprendre en continu est particulièrement avantageuse pour analyser d'énormes volumes de données générées par des points d'extrémité. Des mises à jour régulières des algorithmes d'évaluation des menaces et de priorisation des risques devraient donner lieu à de nouveaux cas d'utilisation que les CISOs et CIOs espèrent voir améliorer la prédiction des menaces. Par exemple, le partenariat d'Ivanti avec Securin vise à fournir une priorisation des risques en temps réel et à améliorer les postures de sécurité.
La collaboration entre Ivanti et Securin combine l'Intelligence des Vulnérabilités (VI) de Securin avec Ivanti Neurons pour un écosystème d'intelligence des menaces presque en temps réel. Dr. Srinivas Mukkamala, Chief Product Officer chez Ivanti, souligne les avantages de l'intelligence humaine augmentée par l'IA pour fournir une intelligence des menaces approfondie et une priorisation des risques.
Le marché de la cybersécurité utilisant l'IA générative devrait passer de 1,6 milliard de dollars en 2022 à 11,2 milliards de dollars d'ici 2032, représentant un taux de croissance annuel composé (TCAC) de 22%. Canalys prévoit que l'IA générative sous-tendra plus de 70% des opérations de cybersécurité d'ici cinq ans.
Forrester classe les cas d'utilisation de l'IA générative en trois domaines principaux : création de contenu, prédiction comportementale et articulation des connaissances. Allie Mellen, Analyste Principal chez Forrester, souligne que, bien que l'intégration de l'IA et de l'apprentissage automatique dans les outils de sécurité ne soit pas nouvelle, elle évolue pour utiliser plus efficacement les données historiques et les méthodologies de scoring des risques.
Gartner prévoit que 80% des applications intégreront des capacités d'IA générative d'ici 2026, indiquant une adoption rapide dans les organisations. Les CISOs insistent sur le fait que l'adaptabilité d'une plateforme est cruciale pour maximiser la valeur des applications d'IA générative, en particulier pour renforcer des cadres de sécurité zero-trust plus larges.
Pour intégrer efficacement l'IA générative dans un cadre zero-trust, les CISOs recommandent de sécuriser toutes les applications, plateformes, outils et points d'extrémité grâce à une surveillance continue, des contrôles d'accès dynamiques et une vérification permanente. L'incorporation de l'IA générative pourrait introduire de nouveaux vecteurs d'attaque, incitant les CISOs à prioriser les protections contre les attaques par requêtes, les injections de prompt, la manipulation des modèles et le poisoning des données.
La gestion des connaissances via l'IA générative émerge comme un cas d'utilisation clé, remplaçant des projets d'intégration système longs et coûteux. Lors du RSAC 2023, plusieurs fournisseurs ont lancé des solutions basées sur ChatGPT, y compris Google Security AI Workbench et Microsoft Security Copilot, démontrant la tendance vers une sécurité améliorée par l'IA.
L'introduction de Charlotte AI par CrowdStrike vise à augmenter la productivité des analystes de sécurité en automatisant des tâches répétitives et en améliorant les processus de détection des menaces grâce à l'IA conversationnelle. Prévue pour être déployée au cours de l'année prochaine, Charlotte AI capture les interactions en temps réel pour suivre efficacement les menaces.
Les erreurs de configuration cloud demeurent une cible importante pour les attaquants, avec une augmentation des incidents d'exploitation de 95 % d'une année sur l'autre. En réponse à ce paysage de menaces croissant, les experts prévoient une activité accrue en fusions et acquisitions visant à renforcer la sécurité multi-cloud et le cloud hybride. L'acquisition de Bionic par CrowdStrike illustre cette tendance, soulignant l'importance de l'IA générative pour renforcer les efforts globaux en matière de cybersécurité.
Classement
