Pindrop vise une précision de 99 % dans la détection des deepfakes audio générés par l'IA.

Aujourd'hui, Pindrop, leader en sécurité vocale, vérification d'identité et détection de fraude, a dévoilé Pulse Inspect, un outil web conçu pour détecter la parole générée par l'IA dans les fichiers audio et vidéo numériques avec un taux de précision impressionnant de 99 %.

Actuellement disponible en version d'essai dans le cadre de la suite Pulse de Pindrop, Pulse Inspect permet de détecter du contenu généré par l'IA, quel que soit l'outil ou le modèle utilisé pour sa création. Cette offre innovante se distingue des pratiques courantes de l'industrie où les fournisseurs d'IA lancent généralement des classificateurs limités à la détection de contenu créé par leurs plateformes. Pindrop propose Pulse Inspect via un abonnement annuel, visant les organisations ayant besoin de lutter contre les risques de deepfakes audio à grande échelle. Le PDG Vijay Balasubramaniyan a déclaré qu'en fonction de la demande du marché, des options tarifaires plus abordables pourraient être proposées pour les consommateurs individuels.

Répondre à la montée des deepfakes audio

Bien que les deepfakes existent depuis des années, la prolifération de l'IA générative textuelle a accru leur visibilité en ligne. Des outils provenant d'entreprises comme Microsoft et ElevenLabs ont été utilisés pour créer des contenus audio et vidéo frauduleux imitant des célébrités, des figures publiques et des politiciens, ce qui a conduit à la désinformation et à des dommages réputationnels.

Un rapport interne de Pindrop révèle que plus de 12 millions d'adultes américains connaissent quelqu'un qui a été victime de création de deepfake non consensuelle. Ces répliques, comprenant des images, vidéos et audio, exploitent la viralité et se propagent rapidement sur les réseaux sociaux. Pour s'attaquer à ce problème urgent, Pindrop a lancé la suite Pulse plus tôt cette année, avec une première solution axée sur la détection des appels de deepfake passés aux centres d'appels. Avec Pulse Inspect, Pindrop élargit ses capacités, permettant aux organisations d'analyser tout fichier audio ou vidéo à la recherche d'artéfacts synthétiques.

Analyse audio efficace

Pulse Inspect fonctionne comme une application web simple, permettant aux utilisateurs d'entreprise de télécharger des fichiers potentiellement problématiques pour une analyse immédiate. La détection des artéfacts synthétiques nécessitait auparavant un travail d'analyse minutieuse. Désormais, l'outil traite les fichiers en quelques secondes, générant un "score deepfake" et identifiant les sections contenant de la parole générée par l'IA.

Cette analyse rapide permet aux organisations d'aborder la désinformation de manière proactive, préservant ainsi leur intégrité de marque.

Formation avancée à la détection

Le modèle de détection propriétaire de Pindrop a été formé sur plus de 350 outils de génération de deepfake et 20 millions d'énoncés uniques dans plus de 40 langues, atteignant 99 % de précision dans la détection de l'audio deepfake, selon des évaluations internes d'un ensemble de données de près de 200 000 échantillons. Le modèle analyse les fichiers multimédias pour des artéfacts synthétiques toutes les quatre secondes, garantissant une classification précise, même dans des environnements multimédias variés. Balasubramaniyan a expliqué : "La technologie de Pindrop utilise des avancées en réseaux neuronaux profonds (DNN) et des analyses spectro-temporelles complexes pour détecter des artéfacts synthétiques par divers moyens."

Capacités de détection complètes

La force de Pulse Inspect réside dans sa capacité à reconnaître les deepfakes sans limitations spécifiques aux fournisseurs. Balasubramaniyan a souligné que de nombreux deepfakes audio courants proviennent d'outils open source plutôt que commerciaux. L'outil de détection expansif de Pindrop est essentiel pour identifier l'audio synthétique à travers plusieurs systèmes de génération. Cependant, il est important de reconnaître que l'outil peut avoir des difficultés avec des fichiers contenant moins de deux secondes de discours ou trop de bruit de fond. L'équipe travaille activement à améliorer la précision de détection et à surmonter ces limitations.

Actuellement, Pindrop cible Pulse Inspect à une variété d'organisations, y compris des entreprises de médias, des ONG, des agences gouvernementales, des entreprises de gestion de célébrités, des cabinets juridiques et des plateformes de médias sociaux. Bien que Balasubramaniyan n'ait pas divulgué de chiffres spécifiques sur le nombre de clients, il a confirmé que plusieurs partenaires utilisent le produit via des abonnements annuels basés sur le volume, y compris TrueMedia.org, qui aide les utilisateurs à identifier les deepfakes dans des contextes électoraux critiques.

En plus des téléchargements manuels, Pulse Inspect peut être intégré dans des workflows d'analyse personnalisés via une API, facilitant des cas d'utilisation en masse tels que le signalement et la suppression de contenu généré par l'IA nuisible sur les réseaux sociaux. À l'avenir, Pindrop prévoit d'améliorer la suite Pulse en augmentant l'explicabilité de ses outils, avec l'intention d'introduire des fonctionnalités permettant de retracer l'origine de la génération de deepfake tout en élargissant le soutien à d'autres modalités.