Avec l'avènement des capacités avancées de l'IA, la complexité s'accroît, en particulier pour les directeurs de la sécurité de l'information (CISO) adoptant l'IA générative (Gen AI). Cette vague technologique est cruciale pour les fournisseurs de cybersécurité qui cherchent à atténuer les risques liés à la montée de l'IA. Cependant, les adversaires sont devenus plus habiles à utiliser l'IA en association avec des tactiques d'ingénierie sociale, ce qui a un impact significatif sur les entreprises leaders cette année.
Pour examiner les perspectives de 2024, un média a organisé une discussion virtuelle avec 16 leaders en cybersécurité issus de 13 entreprises. Le consensus était clair : promouvoir une collaboration solide entre les professionnels de l'IA et de la cybersécurité est essentiel pour réussir à l'avenir.
L'IA nécessite l'intuition humaine pour lutter efficacement contre les cybermenaces. Les exercices de Détection et Réponse Gérées (MDR) de MITRE ont montré que l'intégration de l'intelligence humaine avec l'IA permet d'identifier et de neutraliser les violations avant qu'elles ne s'aggravent. Michael Sherwood, directeur de l'innovation et de la technologie de la ville de Las Vegas, l'a souligné lors d'une récente interview.
Prédictions sur le rôle de la Gen AI en cybersécurité
Peter Silva d'Ericom, au sein de la Cybersecurity Unit de Cradlepoint, a noté que la Gen AI pourrait améliorer la reconnaissance des motifs pour identifier les vecteurs d'attaque et les vulnérabilités émergentes. Cependant, il a averti que l'IA complique également la détection, car les systèmes peuvent avoir du mal à faire la différence entre les attaques de phishing générées par des humains et celles générées par l'IA.
Elia Zaitsev, CTO de CrowdStrike, a précisé qu'en 2024, les cybercriminels pourraient de plus en plus cibler les systèmes d'IA via des vulnérabilités dans les utilisations autorisées de l'IA et les angles morts liés à l'utilisation non autorisée d'outils d'IA par les employés. Il a averti que les entreprises doivent examiner leurs mises en œuvre internes de l'IA et élaborer des directives robustes pour atténuer les risques.
Rob Gurzeev, CEO de CyCognito, a exprimé que bien que la Gen AI impacte positivement la sécurité, elle pourrait également engendrer une complaisance parmi les équipes de sécurité. Il a mis en garde contre une dépendance excessive à l'IA, susceptible de créer des lacunes dans les opérations de sécurité.
Howard Ting, CEO de Cyberhaven, a révélé qu'une étude a montré que 4,7 % des employés saisissaient des données confidentielles dans des outils d'IA comme ChatGPT. Il estime que les avancées de l'IA permettront aux équipes de sécurité de renforcer leurs défenses au fil du temps.
John Morello, cofondateur et CTO de Gutsy, a mentionné que la Gen AI a le potentiel d'améliorer considérablement la manière dont les équipes de sécurité gèrent d'énormes quantités de données d'événements, transformant des méthodes obsolètes en formats conviviaux.
Jason Urso, CTO de Honeywell Connected Enterprise, a prédit que la Gen AI permettra même aux hackers inexpérimentés d'exécuter des attaques sophistiquées, modifiant ainsi le paysage de la cybersécurité en un affrontement entre IA et IA.
Srinivas Mukkamala, Chief Product Officer d'Ivanti, a souligné l'anxiété croissante des employés concernant la sécurité de l'emploi face à l'IA. Il a insisté sur la nécessité de transparence de la part des dirigeants concernant les stratégies d'intégration de l'IA pour retenir les talents, car une IA efficace nécessite toujours une supervision humaine. Mukkamala a également prédit une augmentation des attaques d'ingénierie sociale sophistiquées en raison de meilleures outils d'IA, alimentant des tentatives de phishing encore plus crédibles.
Merritt Baer, Field CISO chez Lacework, envisage un environnement de travail transformé où la Gen AI aide à automatiser des tâches, permettant aux humains de se concentrer sur la réflexion stratégique et la créativité.
Ankur Shah, SVP de Prisma Cloud chez Palo Alto Networks, a souligné que les équipes de sécurité doivent gérer le rythme rapide du développement d'applications, que l'IA devrait accélérer. Il a averti qu'en l'absence de données de sécurité solides, l'efficacité de l'IA dans la prévention des risques pourrait être réduite.
Matt Kraning, CTO de Cortex chez Palo Alto Networks, a déclaré que la Gen AI simplifiera l'interaction avec les données pour les analystes de sécurité, facilitant ainsi l'analyse et la réponse aux menaces.
Christophe Van de Weyer, CEO de Telesign, a noté qu'en 2023, on a observé un nombre record d'incidents de phishing, aggravés par des criminels utilisant la Gen AI pour rédiger des messages convaincants. Il estime que les organisations devront renforcer leurs défenses et utiliser l'IA pour améliorer la détection de fraude.
Rob Robinson, responsable de Telstra Purple EMEA, a fait remarquer que le nombre croissant de points de données pour la surveillance de la sécurité nécessitera une évolution des compétences des CISO, l'IA émergeant comme une solution clé pour relever les défis de sécurité.
Vineet Arora, CTO de WinWire, a réitéré que la Gen AI améliorera considérablement l'automatisation de la cybersécurité, permettant aux professionnels de la sécurité de se concentrer sur des problèmes complexes, tout en laissant une marge d'exploitation aux acteurs malveillants.
Claudionor Coelho, Chief AI Officer, et Sanjay Kalra, VP de la gestion des produits chez Zscaler, ont prédit que la Gen AI révolutionnera les efforts de conformité, automatisant des processus auparavant chronophages.
Clint Dixon, CIO d'une organisation logistique mondiale, a résumé l'avenir de la cybersécurité comme étant fortement dépendant de l'IA, en raison de la croissance rapide des données et de leur complexité.
En résumé, l'intégration de la Gen AI dans la cybersécurité présente un potentiel immense pour renforcer les défenses et rationaliser les opérations, mais elle pose également de nouveaux défis et risques que les organisations devront naviguer avec discernement en 2024.
Classement
