L'armement de l'IA émerge comme un catalyseur significatif pour de nouvelles menaces complexes en cybersécurité, prêt à redéfinir le paysage de la cybersécurité pour les années à venir. Des attaquants isolés aux équipes sophistiquées de menaces persistantes avancées (APT) et aux acteurs étatiques, l'utilisation de modèles linguistiques larges (LLMs) comme arme est devenue la méthodologie privilégiée. L’IA antagoniste présente une menace imprévue que les équipes de sécurité doivent désormais affronter.
Alors que les attaquants perfectionnent leurs techniques dans cette course à l’armement de l'IA, les menaces cybernétiques évoluent pour devenir plus rapides, plus nuancées et plus dommageables. Selon le rapport de Forrester sur les « Principales Menaces en Cybersécurité en 2024 », les équipes de sécurité devront faire face à des défis croissants pour maintenir l'équilibre des pouvoirs contre les attaques d'IA armée.
Agents d'IA et Ransomware-as-a-Service
Dans un effort pour démocratiser l'IA armée, des groupes d'attaquants — y compris les APT et les États-nations — proposent désormais des services de ransomware en tant que service, des kits de démarrage FraudGPT, des services d'attaques IoT, et des conseils sur la façon d'exécuter des attaques de malware indétectables. Le rapport mondial sur les menaces de CrowdStrike pour 2024 indique que les attaques sans malware ont augmenté de 71 % en 2022 à 75 % en 2023.
Le Paysage des Menaces Cybernétiques en Croissance
Les entreprises sont sous siège. Le récent sondage de Forrester révèle que près de 78 % des professionnels de la sécurité et de la gestion des risques estiment que leur organisation a été victime d'une violation ou d'une compromission au cours de l'année passée. Le rapport met en évidence une augmentation de 13 % des professionnels signalant de six à dix violations par rapport à l'année précédente. De plus, 48 % des répondants ont subis une violation ou un incident cybernétique d'un coût supérieur à 1 million de dollars, avec de nombreux incidents atteignant en moyenne 2,183,333 dollars en dépenses totales.
Les 5 Principales Menaces de Sécurité pour 2024
Forrester identifie cinq menaces majeures cette année :
1. Attaques Narratives : Ces tactiques visent à déformer la vérité en manipulant des récits et en influençant l'opinion publique, surtout en période électorale. Des exemples récents incluent les tentatives russes d'inciter à la dissidence politique concernant la frontière américano-mexicaine.
2. Deepfakes : L'essor des deepfakes, alimenté par la puissance de calcul bon marché et l'IA générative, pose des menaces en matière de fraude, de ransomware et de manipulation de la perception publique. La mitigation de ces risques nécessite des algorithmes avancés pour identifier les audio et images altérés.
3. Réponses de l'IA : Se défendre contre l'ingénierie des prompts et l'exfiltration de données à travers des attaques répétées de prompt est crucial alors que les entreprises adoptent des applications d'IA générative. De nouvelles technologies, comme PrivateAI et ProtectAI, émergent pour garantir la sécurité des données tout en optimisant la productivité.
4. Chaîne d'Approvisionnement Logiciel de l'IA : Les attaquants ciblent de plus en plus les chaînes d'approvisionnement logicielles pour y intégrer des programmes malveillants, 91 % des entreprises signalant des incidents au cours de l'année. La vulnérabilité de ces systèmes nécessite une amélioration des mesures de sécurité tout au long des pipelines de développement.
5. Espionnage des Nations : L'espionnage demeure un objectif principal des attaques étatiques. Le Council on Foreign Relations rapporte que 82 % de ces attaques en 2023 visaient à collecter des renseignements. Des vulnérabilités récentes dans la technologie satellitaire soulignent la nécessité de défenses robustes dans ce domaine.
Alors que les organisations naviguent à travers ces menaces multifacettes, elles doivent prioriser les avancées en cybersécurité tout en tirant parti de solutions innovantes, assurant ainsi une défense résiliente contre l'avenir de l'IA armée.
Classement
