Sprachausgabe-Technologie wird 2024 politische Werbung antreiben – im Angesicht zunehmender Desinformationsbedenken

Die Bedenken hinsichtlich von Desinformation durch KI bei den US-Wahlen 2024 nehmen zu, während KI-Voice-Cloning-Startups in die politische Arena eintreten.

Ein Beispiel ist Instreamatic aus Boca Raton, eine AI-Audio-/Video-Werbeplattform, die 2021 in einer Series A-Finanzierungsrunde 6,1 Millionen Dollar eingesammelt hat und nun in die politische Werbung expandiert. Die Lösung von Instreamatic ermöglicht es Wahlkampagnen, schnell hochgradig zielgerichtete, KI-generierte Video- und Audioanzeigen zu erstellen – mit Voiceovers anstelle traditioneller „Talking Head“-Videos, die sich in Echtzeit an Ereignisse oder Standorte anpassen können.

Eine Demo zeigte, wie Instreamatic politische Anzeigen in Audio oder Video durch die Nachahmung der Stimme eines Kandidaten anpassen kann, ohne dass eine studioartige Nachbearbeitung erforderlich ist. Seit März letzten Jahres bietet Instreamatic sein generatives Stimmen-KI-Produkt Marken und Agenturen an, das es ermöglicht, aus einer einzigen abgeschlossenen Anzeige unbegrenzt viele Variationen zu generieren, die an Faktoren wie Zielgruppenstandort, Tageszeit, Plattform und lokale Geschäfte angepasst werden können.

Dennoch birgt die Einführung von KI in Wahlkampagnen 2024 ein potenzielles Risiko der Desinformation. Ein aktueller Bericht von ABC News weist auf den Einsatz von KI-generierten Bildern und Audio von Ex-Präsident Donald Trump durch den Gouverneur von Florida, Ron DeSantis, hin, was Bedenken hinsichtlich der Auswirkungen von generativer KI aufwarfen. Nathan Lambert, ein Forscher für maschinelles Lernen am Allen Institute for AI, warnt, dass ohne Regulierung die Wahlen 2024 im Chaos enden könnten.

Instreamatic gewährleistet Compliance, indem es die ausdrückliche Genehmigung zur Nutzung von Stimmen verlangt. CEO Stas Tushinskiy erklärte, dass sie die Autorisation der Kunden überprüfen werden und dass ihre politischen Werbedienstleistungen nicht für jeden Bewerber verfügbar sind. „Man kann sich nicht einfach anmelden“, betonte er. „Wir beteiligen uns an der Kampagnenerstellung, um eine unbeabsichtigte missbräuchliche Nutzung unserer Plattform zu vermeiden“ und hob hervor, dass problematischer Inhalt schnell gelöscht und gegebenenfalls öffentlich behandelt werden würde.

Tushinskiy stellte klar, dass Instreamatic die politische Werbung nicht neu erfindet, sondern einen bereits umständlichen Prozess automatisiert. Kandidaten verbringen traditionell Stunden im Studio mit der Aufnahme von Anzeigen, und es gibt zusätzliche Schritte wie Uploads und Fehlerüberprüfungen. Die Technologie von Instreamatic verkürzt diesen Zeitrahmen von Wochen auf Minuten und optimiert den Prozess der Anzeigenerstellung.

Experten warnen, dass die Landschaft der politischen Werbung riskant bleibt, angesichts des potenziellen Missbrauchs von KI. Derzeit gibt es keine bundesweiten Regelungen für die Nutzung von KI-generierten Inhalten in Wahlkampagnen. Russell Wald, Policy-Direktor am Stanford Institute for Human-Centered AI, wies auf das Fehlen von Regeln hin, während Kampagnen ohne ausreichende Aufsicht voranschreiten.

Tushinskiy bekräftigte, dass Instreamatic darauf abzielt, Produktivität und Effektivität zu steigern, nicht Desinformation zu erzeugen. „Wenn wir die wären, die Desinformation schaffen, wollte ich nicht Teil dieses Prozesses sein“, betonte er und hob das Engagement des Unternehmens hervor, unethische Nutzung ihrer Technologie zu stoppen und solche Aktionen möglicherweise aufzudecken.