Comment l'Audio-Jacking par l'IA Générative Peut Distordre les Transactions Audio en Direct

Armes de Modèles Linguistiques de Grande Taille pour Attaques Audio

L’émergence des modèles linguistiques de grande taille (LLMs) a introduit une nouvelle menace : le détournement audio de transactions impliquant des informations sensibles sur des comptes bancaires. Les cybercriminels utilisent de plus en plus les LLMs pour mener des escroqueries de phishing sophistiquées, orchestrer des attaques d'ingénierie sociale, et développer des variantes avancées de ransomware.

L’équipe d’Intelligence Menaces d’IBM a perfectionné le concept d’attaques LLM en réussissant à détourner des conversations en direct, remplaçant des détails financiers légitimes par des instructions frauduleuses. Fait remarquable, seulement trois secondes d’une voix enregistrée ont fourni suffisamment de données pour entraîner les LLMs nécessaires à une attaque de preuve de concept (POC), que IBM décrit comme "terriblement facile".

Détournement Audio : Une Menace Innovante

Le détournement audio représente une nouvelle attaque générative alimentée par l’IA, permettant aux cybercriminels d’intercepter et de manipuler discrètement des conversations en direct. Grâce à un entraînement efficace des LLMs, les chercheurs d’IBM ont démontré leur capacité à altérer des discussions financières en temps réel, sans que les participants ne réalisent que leur transaction était compromise. Au cours de leur expérience, ils ont redirigé des fonds vers un compte frauduleux tout en maintenant l’apparence d’une conversation légitime.

Échange de Mots-Clés : Le Mécanisme de l’Attaque

Au cœur du détournement audio se trouve la capacité d’identifier et de remplacer des mots-clés spécifiques dans une conversation. Dans ce cas, les chercheurs se sont concentrés sur l’expression "numéro de compte bancaire". Selon Chenta Lee, architecte en chef de l’intelligence menaces chez IBM Security, "Nous avons demandé au LLM de remplacer tous les numéros de compte bancaire mentionnés par des numéros frauduleux. Cela permet aux attaquants d’utiliser une voix clonée pour modifier des conversations sans être détectés, transformant ainsi les participants en marionnettes involontaires."

Lee a souligné que la création de la POC était étonnamment simple. Une partie importante de l’effort a été consacrée à capturer l’audio efficacement et à le diriger à travers l’IA générative. Les LLM modernes simplifient la compréhension et l’adaptation des sémantiques de conversation.

Techniques d’Attaque et Vulnérabilités

Tout appareil capable d'accéder aux LLMs peut lancer une attaque de détournement audio. IBM caractérise ces attaques comme "silencieuses", notant diverses méthodes, telles que des malwares sur les appareils des victimes ou des services Voice over IP (VoIP) compromis. Les acteurs malveillants pourraient même engager deux victimes dans une conversation pour faire avancer leurs plans, bien que cela nécessite des compétences avancées en ingénierie sociale.

Comprendre le Cadre du Détournement Audio

Dans leur POC, IBM a adopté une approche de type homme du milieu, leur permettant de surveiller et d’influencer un dialogue en direct. En convertissant la parole en texte, le LLM a interprété le contexte de la conversation et modifié des phrases contenant le terme "numéro de compte bancaire". Lorsqu’un changement se produisait, des technologies de synthèse vocale et des voix pré-clonées étaient utilisées pour intégrer l’altération de façon fluide dans la discussion en cours.

Lutter Contre la Menace du Détournement Audio

Les découvertes d’IBM soulignent l’urgence d’accroître la sensibilisation aux attaques d’ingénierie sociale, particulièrement puisque seulement trois secondes de la voix d’une personne peuvent compromettre la sécurité.

Pour se protéger contre le détournement audio, envisagez ces stratégies :

1. Reformulez et Confirmez : Toujours reformuler les informations importantes et demander confirmation. Soyez vigilant face aux discussions financières qui semblent irrégulières ou qui manquent de familiarité avec des échanges précédents.

2. Évolution des Technologies de Détection : Le développement de technologies pour détecter les deepfakes progresse rapidement. À mesure que les deepfakes impactent divers secteurs, attendez-vous à des innovations significatives visant à atténuer les détournements silencieux, particulièrement dans le secteur financier.

3. Adoptez des Meilleures Pratiques : Les mesures de sécurité traditionnelles restent cruciales. Les attaquants visent souvent les appareils des utilisateurs, utilisant le phishing et l’exploitation d’identifiants. Pour se défendre contre ces menaces, adoptez des pratiques standards : évitez les liens suspects, mettez à jour les logiciels régulièrement, et maintenez une bonne hygiène des mots de passe.

4. Utilisez des Appareils et Services de Confiance : Protégez votre organisation en utilisant des dispositifs sécurisés et des services en ligne réputés. Implémentez une approche de confiance zéro, en supposant des violations potentielles, et appliquez des contrôles d'accès stricts pour protéger les informations sensibles.

En comprenant et en abordant les risques posés par le détournement audio, les individus et les organisations peuvent renforcer leurs défenses contre cette menace émergente.