Dans le paysage de la cybersécurité, le "dilemme du défenseur" met en lumière une réalité frappante : les défenseurs sont constamment en état d'alerte, travaillant sans relâche pour prévenir les violations de sécurité, tandis que les attaquants n'ont besoin que d'une seule occasion pour causer des dommages considérables.
Pour lutter contre ce cycle implacable, Google prône l'intégration d'outils d'IA avancés dans les stratégies de cybersécurité.
Annonce de l'Initiative de Défense Cybernétique par IA
Avant la Conférence de Sécurité de Munich (MSC) le 16 février, Google a dévoilé son "Initiative de Défense Cybernétique par IA", accompagnée de plusieurs engagements liés à l'IA et à la cybersécurité. Cette annonce fait suite à des déclarations similaires de Microsoft et OpenAI, qui ont souligné l'importance d'un usage "sûr et responsable" de l'IA pour atténuer les menaces adversariales.
Alors que les dirigeants mondiaux se réunissent à la MSC pour discuter des politiques de sécurité internationale, les géants de la technologie sont désireux de montrer leur position proactive en matière de cybersécurité. "La révolution de l'IA est déjà en cours", a déclaré Google dans un article de blog. "Nous sommes enthousiastes quant au potentiel de l'IA pour relever les défis de sécurité générationnels et créer un monde numérique de confiance."
Engagements pour une Sécurité Pilotée par l’IA
Durant la conférence de Munich, plus de 450 décideurs de divers secteurs exploreront des thèmes tels que la technologie, la sécurité transatlantique et la gouvernance mondiale. L'objectif de la MSC est de faire avancer les dialogues sur la réglementation technologique et ses implications pour la sécurité inclusive et la coopération.
Avec l’IA comme préoccupation centrale pour les dirigeants et régulateurs, Google s'engage à investir dans une "infrastructure prête pour l'IA", à fournir de nouveaux outils défensifs et à lancer des initiatives de formation à la sécurité via l'IA.
Une annonce clé est la formation d'un nouveau groupe "IA pour la cybersécurité", comprenant 17 startups des États-Unis, du Royaume-Uni et de l'UE. Cette initiative vise à renforcer l'écosystème transatlantique de cybersécurité avec des stratégies d'internationalisation, des outils d'IA et les compétences nécessaires pour une mise en œuvre efficace.
Parmi les autres initiatives de Google :
- L'extension du programme de séminaires sur la cybersécurité de Google.org à 15 millions de dollars pour améliorer la formation des professionnels de la cybersécurité dans les communautés défavorisées à travers l'Europe.
- Le lancement de Magika, un outil d'IA open-source pour l'identification des types de fichiers, qui améliore la détection des malwares avec une augmentation de 30 % de la précision et jusqu'à 95 % pour des types de contenu difficiles comme VBA et JavaScript.
- L'attribution de 2 millions de dollars en subventions de recherche à des institutions telles que l'Université de Chicago, l'Université Carnegie Mellon et l'Université de Stanford pour améliorer la vérification de code et développer des algorithmes de détection des menaces plus résilients.
De plus, Google souligne l'importance de son Cadre de Sécurité de l'IA, introduit en juin, qui guide les organisations dans la mise en œuvre des meilleures pratiques pour la sécurité de l'IA. "Les technologies de sécurité de l'IA doivent être sécurisées par conception et par défaut", affirme Google, soulignant la nécessité d'investissements ciblés et de cadres réglementaires efficaces pour maximiser les bénéfices de l'IA tout en limitant son utilisation malveillante.
Efforts Collaboratifs Contre l’Utilisation Malveillante de l’IA
Dans une annonce conjointe, Microsoft et OpenAI ont averti de l'utilisation croissante de l'IA par des acteurs malveillants comme outil de productivité. OpenAI a révoqué l'accès aux comptes liés à des groupes de menace soutenus par des États tels que la Chine, l'Iran, la Corée du Nord et la Russie, notant que leurs tactiques incluent le débogage de code, la création de contenus de phishing et la collecte d'intelligence.
Les deux entreprises sont déterminées à garantir un usage responsable des technologies de l'IA, Microsoft établissant des principes axés sur l'identification des usages malveillants, la collaboration avec les parties prenantes et l'information du public sur les abus de l'IA.
Croissance des Menaces Cybernétiques et Rôle de l’IA
L'équipe de renseignement sur les menaces de Google signale une augmentation des menaces cybernétiques, alimentée par la professionnalisation des attaquants et la priorisation des capacités offensives dans les contextes géopolitiques. Des pays comme la Chine, la Russie, la Corée du Nord et l'Iran investissent massivement dans l'IA à des fins offensives et défensives, représentant des risques considérables à travers divers secteurs.
Les attaquants utilisent l'IA pour renforcer leurs efforts d'ingénierie sociale, créer des schémas de phishing sophistiqués et manipuler l'information. Comme l'avertit Google, l'évolution de la technologie de l'IA pourrait considérablement renforcer les opérations malveillantes.
À l'inverse, l'IA offre aux défenseurs des avantages considérables dans la détection des vulnérabilités, la réponse aux incidents et l'analyse des malwares. L'IA peut rationaliser les processus de renseignement sur les menaces, classifier les malwares et prioriser les menaces, transformant fondamentalement le paysage de la cybersécurité.
Les propres équipes de détection de Google ont utilisé l'IA générative pour améliorer les résumés d'incidents, augmentant ainsi l'efficacité et la qualité des résultats. L'entreprise a également constaté une augmentation de 40 % des taux de détection des spams grâce à des modèles de traitement avancés et une réduction de 15 % des bugs dans les processus de vérification de code grâce à des applications robustes de l'IA.
En fin de compte, les chercheurs de Google croient que "l’IA représente une opportunité critique pour inverser le dilemme du défenseur, rétablissant l'équilibre dans le cyberespace en faveur des défenseurs plutôt que des attaquants."
Classement
