OpenAI et Microsoft s'associent pour contrer les cyberattaques des États-nations grâce à ChatGPT.

Récemment, OpenAI et Microsoft, deux entreprises leaders dans le domaine de l'intelligence artificielle, ont annoncé la fermeture de cinq comptes malveillants liés à des acteurs soutenus par des États, qui ont utilisé des outils d'IA, dont ChatGPT, pour mener des cyberattaques.

Ces cinq acteurs sont associés à la Chine, l'Iran, la Corée du Nord et la Russie. Les deux groupes liés à la Chine sont identifiés sous les noms de « CHROMIUM » et « SODIUM », tous deux accusés de cibler des entrepreneurs en défense, des agences gouvernementales et des entités du secteur de la cryptographie aux États-Unis. L'acteur iranien est connu sous le nom de « CURIUM », le groupe nord-coréen sous le nom de « THALLIUM » et l'entité russe sous le nom de « STRONTIUM ».

Dans leur déclaration, OpenAI a souligné que ces acteurs de menace ont exploité leurs services pour recueillir des informations en source ouverte, effectuer des traductions, identifier des erreurs de codage et réaliser des tâches basiques de programmation. Cependant, les enquêtes ont révélé que les modèles d'OpenAI ont des fonctionnalités très limitées en matière de tâches de cybersécurité malveillantes. Microsoft a ajouté que des agents du renseignement militaire russe, désignés sous le nom de « Forrest Blizzard », ont utilisé de grands modèles de langage (LLMs) pour rechercher des technologies de satellites et de radars liées aux opérations militaires en Ukraine, en vue d'une possible automatisation et optimisation technique.

Les groupes CHROMIUM et SODIUM ont un historique de ciblage des entrepreneurs en défense et des agences pertinentes. Ils ont tiré parti d'une expertise juridique pour interroger des agences de renseignement et des entreprises, générer du code, identifier des erreurs de codage et réaliser des traductions. Parallèlement, CURIUM et THALLIUM ont utilisé les outils d'OpenAI pour produire du contenu de phishing.

Bien qu’OpenAI et Microsoft n’aient pas détecté de signes significatifs de grandes attaques, ils restent vigilants et ont proposé des mesures pour atténuer les risques d'activités malveillantes alimentées par l'IA. Les entreprises ont confirmé qu'elles continueront de surveiller et de contrer les activités liées à ces acteurs de menace tout en collaborant avec divers partenaires pour partager des informations sur les activités malveillantes, renforçant ainsi la sensibilisation du public et des parties prenantes.

Cet incident rappelle avec force qu’à mesure que la technologie de l'intelligence artificielle progresse rapidement, les méthodes de cyberattaque évoluent également. Les entreprises et les individus doivent renforcer leurs mesures de cybersécurité pour protéger leurs informations et leurs actifs. De plus, les gouvernements et la communauté internationale devraient intensifier leur coopération pour lutter contre les cyberattaques exploitant les technologies de l'IA, assurant ainsi la paix et la sécurité dans le cyberespace.