Pindrop strebt eine 99%ige Genauigkeit bei der Erkennung von KI-Audio-Deepfakes an.

Heute hat Pindrop, ein führendes Unternehmen in den Bereichen Sprachsicherheit, Identitätsverifizierung und Betrugsbekämpfung, Pulse Inspect vorgestellt – ein webbasiertes Tool, das AI-generierte Sprachinhalte in digitalen Audio- und Videodateien mit einer beeindruckenden Genauigkeitsrate von 99 % erkennt.

Aktuell als Vorschau im Rahmen der Pulse-Suite von Pindrop verfügbar, ermöglicht Pulse Inspect die Erkennung von AI-generierten Inhalten unabhängig von dem verwendeten Tool oder Modell. Dieses innovative Angebot unterscheidet sich von gängigen Branchenpraktiken, bei denen AI-Anbieter in der Regel Klassifikatoren bereitstellen, die auf Inhalte beschränkt sind, die von ihren eigenen Plattformen erstellt wurden. Pindrop bietet Pulse Inspect als jährliches Abonnement an, das sich an Organisationen richtet, die im großen Maßstab gegen die Risiken von Audio-Deepfakes vorgehen müssen. CEO Vijay Balasubramaniyan erklärte, dass sie je nach Marktnachfrage möglicherweise kostengünstigere Preismodelle mit einer begrenzten Anzahl von Überprüfungen für Privatverbraucher einführen könnten.

Die Herausforderung der Audio-Deepfakes

Obwohl Deepfakes schon seit Jahren existieren, hat die Verbreitung textbasierter generativer AI deren Sichtbarkeit im Internet erhöht. Werkzeuge von Unternehmen wie Microsoft und ElevenLabs wurden eingesetzt, um betrügerische Audio- und Videoinhalte zu erzeugen, die Prominente, Geschäftsleute und Politiker nachahmen, was zu Fehlinformationen und Reputationsschäden führte. Ein interner Bericht von Pindrop zeigt, dass über 12 Millionen Amerikaner Kenntnis von jemandem haben, der Opfer einer nicht einvernehmlichen Deepfake-Erstellung wurde. Diese Nachahmungen, die Bilder, Videos und Audio umfassen, nutzen die Viralisierung und verbreiten sich schnell in sozialen Medien.

Um dieses drängende Problem anzugehen, hat Pindrop Anfang dieses Jahres die Pulse-Suite gestartet, deren erste Lösung auf die Erkennung von Deepfake-Anrufen bei Callcentern ausgerichtet ist. Mit Pulse Inspect erweitert Pindrop seine Möglichkeiten und ermöglicht es Organisationen, jede Audio- oder Videodatei auf synthetische Artefakte zu analysieren.

Effiziente Audioanalyse

Pulse Inspect funktioniert als einfache Webanwendung, die es Unternehmensnutzern ermöglicht, potenziell fragwürdige Dateien für sofortige Analysen hochzuladen. Früher erforderte die Identifizierung synthetischer Artefakte arbeitsintensive forensische Arbeiten. Jetzt verarbeitet das Tool Dateien in Sekunden und erstellt einen „Deepfake-Score“, der Abschnitte mit AI-generierter Sprache kennzeichnet. Diese schnelle Analyse hilft Organisationen, Fehlinformationen proaktiv zu begegnen und die Markenintegrität zu wahren.

Fortschrittliches Erkennungs-Training

Das proprietäre Erkennungsmodell von Pindrop wurde anhand von über 350 Deepfake-Generierungswerkzeugen und 20 Millionen einzigartigen Äußerungen in mehr als 40 Sprachen trainiert und erreicht laut internen Bewertungen einer Datensammlung von etwa 200.000 Proben eine Genauigkeit von 99 % bei der Erkennung von Deepfake-Audio. Das Modell analysiert Mediendateien alle vier Sekunden auf synthetische Artefakte und gewährleistet eine präzise Klassifizierung, selbst in gemischten Medienumgebungen. Balasubramaniyan erklärte: „Die Technologie von Pindrop nutzt Fortschritte in tiefen neuronalen Netzwerken (DNN) und komplexe spektral-temporale Analysen, um synthetische Artefakte auf verschiedene Weise zu erkennen.“

Umfangreiche Erkennungsfähigkeiten

Die Stärke von Pulse Inspect liegt in seiner Fähigkeit, Deepfakes ohne spezifische Einschränkungen erkenntlich zu machen. Balasubramaniyan wies darauf hin, dass viele gängige Audio-Deepfakes aus Open-Source-Tools stammen und nicht aus kommerziellen. Das umfassende Erkennungstool von Pindrop ist entscheidend für die Identifizierung synthetischer Audioinhalte über verschiedene Generierungssysteme hinweg. Es ist jedoch wichtig anzumerken, dass das Tool Schwierigkeiten mit Dateien haben könnte, die weniger als zwei Sekunden Sprache oder übermäßigen Hintergrundgeräusche enthalten. Das Team arbeitet aktiv an der Verbesserung der Erkennungsgenauigkeit und der Behebung dieser Einschränkungen.

Derzeit richtet Pindrop Pulse Inspect an eine Vielzahl von Organisationen, darunter Medienunternehmen, gemeinnützige Organisationen, Regierungsbehörden, Prominentenmanagement-Firmen, Rechtsanwaltskanzleien und soziale Medien. Während Balasubramaniyan keine spezifischen Kundenzahlen nannte, bestätigte er, dass mehrere Partner das Produkt über volumenbasierte Jahresabonnements nutzen, darunter TrueMedia.org, das Nutzern hilft, Deepfakes in kritischen Wahlsituationen zu identifizieren.

Zusätzlich zu manuellen Uploads kann Pulse Inspect in benutzerdefinierte forensische Arbeitsabläufe über eine API integriert werden, was die Nutzung in großen Fällen erleichtert, wie das Markieren und Entfernen schädlicher AI-generierter Inhalte in sozialen Medien. Zukünftig plant Pindrop, die Pulse-Suite zu erweitern, indem die Erklärbarkeit seiner Tools verbessert wird und Funktionen eingeführt werden, die zurückverfolgen, wo die Deepfake-Generierung stattfand, während die Unterstützung für zusätzliche Modale ausgeweitet wird.