McAfee Präsentiert Projekt Mockingbird: Ein Schutzgegen AI-generierte Deepfake-Audioschwindel
Als Reaktion auf die zunehmenden Bedrohungen durch KI-gesteuerte Betrügereien hat McAfee Projekt Mockingbird ins Leben gerufen. Diese KI-gestützte Technologie zur Erkennung von Deepfake-Audios soll Verbraucher vor Cyberkriminellen schützen, die Audio manipulieren, um Fehlinformationen zu verbreiten und Betrügereien durchzuführen.
Das Projekt wurde auf der CES 2024, der bedeutenden Technologiemesse in Las Vegas, vorgestellt. Ziel von Projekt Mockingbird ist es, Nutzer vor täuschendem Deepfake-Audio zu schützen, das öffentliche Wahrnehmungen irreführen kann. McAfees CTO Steve Grobman erläuterte, dass Deepfake-Betrügereien häufig mit bekannten Sprechern, wie Nachrichtensprechern, agieren, deren Stimmen verändert werden, um Dinge zu sagen, die sie nie geäußert haben.
„McAfee konzentriert sich seit jeher darauf, Verbraucher vor digitalen Bedrohungen zu schützen. Mit dem Aufkommen der generativen KI beobachten wir einen signifikanten Wandel, da Cyberkriminelle diese Technologien ausnutzen, um verschiedene Betrügereien zu orchestrieren“, erklärte Grobman.
Da die Wahlkampf-Saison naht, wachsen die Bedenken über die Rolle generativer KI in Desinformationskampagnen. McAfee verpflichtet sich, die Technologie zu verbessern, damit Kunden authentische von manipulierten Videos unterscheiden können. Die Herausforderung ist besonders ausgeprägt, da Deepfakes mit anderen gehackten Inhalten kombiniert werden können, was die Erkennung erschwert.
Grobman nannte ein Beispiel mit Insomniac Games, bei dem Hacker private Daten geleakt haben. Deepfake-Audio könnte nahtlos in echtes gehacktes Material integriert werden, was die Verwirrung für Verbraucher verstärkt.
Projekt Mockingbird nutzt fortschrittliche KI-Techniken, um zu überprüfen, ob Audioaufnahmen tatsächlich der Person gehören, die vermeintlich spricht. Durch die Analyse gesprochener Worte geht diese Technologie dem alarmierenden Trend nach, dass generative KI überzeugendes Deepfake-Audio erstellt. Während Video-Deepfakes viel Aufmerksamkeit auf sich ziehen, betont Grobman, dass die heimtückische Natur der Audio-Manipulation eine neue Herausforderung darstellt, insbesondere da solche gefälschten Audios in sozialen Medien zunehmen.
Der Aufstieg der KI-Technologie hat Cyberkriminellen die Möglichkeit gegeben, irreführende Inhalte zu erstellen, was zu Betrügereien führt, die manipuliertes Audio und Video ausnutzen. Diese Taktiken reichen von der Imitation geliebter Personen durch Sprachklonung bis zur Veränderung echter Videos mit falschem Audio, was es Verbrauchern erschwert, die Authentizität zu beurteilen.
Um diesem dringenden Bedarf nach Klarheit gerecht zu werden, hat McAfee Labs ein fortschrittliches KI-Modell entwickelt, das KI-generiertes Audio mit über 90 % Genauigkeit erkennen kann. Dieses Modell kombiniert kontextuelle, verhaltensbasierte und kategorische Erkennungstechniken, um die Nutzer wirksam zu schützen.
„Diese Technologie ist entscheidend, um den Nutzern zu ermöglichen, ihre digitalen Interaktionen mit Vertrauen zu gestalten, besonders während die Anzahl der KI-generierten Betrügereien zunimmt“, betonte Grobman. „Durch die Nutzung unserer Deepfake-Audio-Erkennung werden wir Verbrauchern helfen, schnell zwischen echtem Inhalt und betrügerischen Versuchen zu unterscheiden, was ihre Fähigkeit stärkt, ihre Privatsphäre und Identität zu schützen.“
Während der CES 2024 demonstrierte McAfee Projekt Mockingbird und präsentierte seine Fähigkeiten den Gästen. Diese Initiative unterstreicht das Engagement des Unternehmens, ein starkes Portfolio an KI-Modellen anzubieten, die Verbraucher vor digitalen Bedrohungen schützen.
Inspirierend durch das Verhalten von Spottdrosseln, die dafür bekannt sind, Geräusche zu imitieren, zieht McAfee eine Parallele zwischen diesen Vögeln und Cyberkriminellen, die Stimmen replizieren, um Verbraucher zu täuschen.
Eine Umfrage von McAfee aus Dezember 2023 zeigt, dass große Besorgnis über Deepfake-Technologie besteht. Fast 68 % der Befragten äußerten eine gesteigerte Angst vor Deepfakes im Vergleich zum Vorjahr, während 33 % mit Deepfake-Betrügereien vertraut waren. Zentrale Bedenken betreffen das Potenzial zur Wahlbeeinflussung, Cybermobbing und die Imitation öffentlicher Personen.
„Mit dem Blick auf einen kritischen Wahlzyklus gibt es berechtigte Bedenken, dass Deepfake-Technologie die öffentliche Diskussion beeinflussen könnte“, bemerkte Grobman. „Unsere KI identifiziert subtile Merkmale, die mit bloßem Auge unsichtbar sein könnten, und ermöglicht es Verbrauchern, zwischen authentischen und manipulierten Inhalten zu unterscheiden.“
McAfees Erkennungstechnologie analysiert Rohvideodaten und nutzt Machine-Learning-Modelle, um festzustellen, ob der Inhalt legitim ist. Dieses System, das zuvor zur Malware-Erkennung verwendet wurde, wird nun angepasst, um tiefgreifend verändertes Audio und Video zu identifizieren, wodurch die Sicherheit der Verbraucher erhöht wird.
Um sich in einer zunehmend komplexen digitalen Landschaft zurechtzufinden, betonte Grobman die Bedeutung von Skepsis der Verbraucher und Bildung über Deepfake-Technologien. „Wir möchten, dass Verbraucher sich bewusst sind, dass wenn etwas seltsam erscheint, es möglicherweise KI-generiert ist. Unser Ziel ist es, vertrauenswürdige Technologien bereitzustellen, die ihnen helfen, täuschende Inhalte zu erkennen und sichere digitale Erfahrungen zu gewährleisten.“
Projekt Mockingbird stellt McAfees proaktive Antwort auf die wachsende Bedrohung durch KI-gestützte Manipulation dar und entwickelt sich über experimentelle Phasen hinaus zu einem Kernbestandteil ihres Produktangebots.
Rangliste
