L'Accroissement du Gap de Confiance en Matière de Vie Privée Numérique et d'IA
Avec 87 % des Américains exigeant des comptes des entreprises concernant la vie privée numérique, mais seulement 34 % leur faisant confiance pour utiliser l'IA efficacement contre la fraude, un important gap de confiance s'est installé. Bien que 51 % des entreprises déploient l'IA pour la cybersécurité et la prévention des fraudes, seulement 43 % des consommateurs mondiaux estiment que les entreprises abordent correctement ces enjeux. Cela souligne la nécessité urgente pour les entreprises de combler ce gap de confiance et de s'assurer que leurs mesures de sécurité basées sur l'IA inspirent confiance. L'essor des deepfakes aggrave ce problème.
Comprendre le Gap de Confiance
L'élargissement du gap de confiance affecte tout, des relations clients de longue date à l'intégrité des élections dans les grandes démocraties mondiales. L’Indice de Confiance 2024 de Telesign met en lumière cette division croissante, révélant comment les préoccupations liées à la confiance influencent le comportement des consommateurs et les processus électoraux nationaux.
L'Impact des Deepfakes et de la Désinformation
Les deepfakes et la désinformation créent une méfiance significative entre les entreprises, leurs clients et les citoyens participant à des élections. Andy Parsons, Directeur Senior de l’Initiative d'Authenticité de Contenu d'Adobe, prévient : « Une fois trompé par un deepfake, vous pourriez ne plus faire confiance à ce que vous voyez en ligne. Lorsque les gens ne peuvent pas distinguer la fiction de la réalité, la démocratie est en danger. » La facilité de diffusion des deepfakes sur les réseaux sociaux, souvent alimentée par des comptes automatisés, complique la capacité à discerner le vrai du faux. Un exemple notable s'est produit en septembre 2020, lorsque Graphika et Facebook ont fermé un réseau de comptes chinois publiant du contenu trompeur sur des questions géopolitiques. Les États-nations investissent fréquemment dans des campagnes de désinformation pour déstabiliser la démocratie et favoriser le trouble social.
L'Évaluation Annuelle des Menaces 2024 de la Communauté de Renseignement des États-Unis souligne que « la Russie utilise l’IA pour créer des deepfakes capables de tromper les experts », ciblant des individus dans des régions politiquement instables pour exercer une influence malveillante. Les attaquants exploitent des technologies avancées de deepfake alimentées par des réseaux antagonistes génératifs (GAN), impactant les électeurs dans le monde entier. Selon l’Indice de Telesign, 72 % des électeurs mondiaux sont préoccupés par le fait que les deepfakes générés par l'IA compromettent l'intégrité des élections, 81 % des Américains partageant ces craintes. De plus, 45 % des Américains ont rencontré du contenu politique généré par l'IA au cours de l'année dernière, tandis que 17 % l'ont remarqué au cours de la semaine précédente.
Confiance dans l'IA et l'Apprentissage Automatique
Malgré les inquiétudes concernant l'utilisation abusive de l'IA pour perturber les élections, l’Indice de Telesign révèle une lueur d'espoir : 71 % des Américains feraient davantage confiance aux résultats électoraux si l'IA et l'apprentissage automatique (ML) étaient utilisés pour atténuer les cyberattaques et la fraude.
Les Mécanismes des GAN et des Deepfakes
Les Réseaux Antagonistes Génératifs (GAN) alimentent le réalisme croissant des contenus deepfake. Des individus isolés aux acteurs étatiques sophistiqués, les GAN sont utilisés pour générer des vidéos et des clones vocaux semblant authentiques. Plus le deepfake est crédible, plus le potentiel d’érosion de la confiance des clients et des électeurs est élevé. Cette technologie, souvent employée dans les attaques de phishing et d'ingénierie sociale, met en évidence la nécessité urgente de vigilance. Le New York Times propose même un quiz pour tester la capacité des lecteurs à distinguer les images réelles de celles générées par l'IA, montrant les avancées rapides de la technologie GAN.
Les GAN se composent de deux réseaux neuronaux concurrents : le générateur crée des données synthétiques, tandis que le discriminateur évalue leur réalisme. Le générateur vise à améliorer la qualité et l'authenticité de ses sorties, rendant ainsi les deepfakes de plus en plus difficiles à détecter et compromettant la confiance dans la société.
Protéger la Confiance dans un Monde de Deepfakes
Christophe Van de Weyer, PDG de Telesign, souligne le rôle crucial de la confiance à l'ère numérique, déclarant : « À mesure que l'IA évolue, nous devons prioriser les solutions de protection contre la fraude alimentées par l'IA pour protéger les données personnelles et institutionnelles. » Telesign utilise des informations provenant de plus de 2 200 signaux d'identité numérique pour renforcer la confiance et sécuriser les transactions, empêchant ainsi des millions d'activités frauduleuses chaque mois.
Selon l’Indice de Telesign, un incroyable 99 % des intrusions numériques réussies se produisent lorsque les comptes manquent d'authentification multifactorielle (MFA). Mettre en œuvre des stratégies de MFA robustes est essentiel pour contrer les violations et maintenir la confiance des clients. Des recherches indiquent qu'un nombre significatif d'anciens employés continue d'avoir accès à des données sensibles de l'entreprise, soulignant l'importance critique d'une gestion efficace de l'identité et des accès (IAM).
Conclusion : Préserver la Confiance Face à la Montée des Deepfakes
L’Indice de Confiance de Telesign illustre l'urgence d'aborder les gaps de confiance existants, notamment en matière de pratiques IAM et MFA. Alors que la technologie GAN continue de progresser, renforçant la capacité à créer du contenu trompeur, il sera vital pour les RSSI de renforcer les mesures de sécurité. Près de toutes les violations commencent par des identités compromises ; par conséquent, les entreprises doivent prioriser la protection contre ces vulnérabilités, même face à la menace croissante des deepfakes.
Classement
