FCC verhängt 6 Millionen Dollar Strafe gegen politischen Berater für irreführende Deepfake-Robocalls

Die Federal Communications Commission (FCC) hat eine drastische Geldstrafe von 6 Millionen Dollar gegen den politischen Berater Steve Kramer verhängt. Er wurde für die Durchführung illegaler Robocalls bestraft, die während der Vorwahlen in New Hampshire deepfake KI-Technologie und Caller-ID-Spoofing einsetzten. Kramer muss diese Strafe innerhalb von 30 Tagen zahlen, andernfalls wird das Justizministerium mit der Einziehung beginnen.

Kramers Handlungen verletzten das 2009 verabschiedete Gesetz über die Wahrhaftigkeit bei der Anrufer-ID, das die bewusste Übermittlung irreführender Anruferinformationen mit betrügerischer Absicht verbietet. Obwohl das Gesetz vor der Verbreitung von Künstlicher Intelligenz erlassen wurde, stimmte die FCC im Februar einstimmig dafür, dessen Anwendbarkeit auf Deepfake-Technologie zu erweitern.

Diese betrügerischen Robocalls beinhalteten eine Deepfake-Audio-Imitation von Präsident Biden, die Wähler in New Hampshire in der Vorwahlzeit verwirrte. Die falsche Nachricht riet den Wählern, nicht an der Vorwahl teilzunehmen, und sagte: „Ihre Stimme zählt im November, nicht an diesem Dienstag.“ Zudem waren die Anrufe so manipuliert, dass sie von der ehemaligen Vorsitzenden der New Hampshire Demokratischen Partei zu stammen schienen.

Kramer engagierte den New-Orleans-Zauberer Paul Carpenter, um die gefälschten Aufnahmen zu erstellen. Carpenter zeigte NBC News, wie er mit einem KI-Stimmengenerator von ElevenLabs das Deepfake-Audio in etwa 20 Minuten erzeugte. Er erhielt dafür eine Zahlung über Venmo und war der Meinung, dass das Projekt von Bidens Kampagne genehmigt wurde. ElevenLabs hat inzwischen Carpeters Konto deaktiviert.

Kramer behauptet, sein Ziel hinter den Robocalls sei es gewesen, auf die potenziellen Gefahren und Missbräuche dieser Technologie hinzuweisen. Während sein Vorhaben ihn nur 500 Dollar kostete, gibt er an, es habe ihm eine erhebliche Medienpräsenz von „5 Millionen Dollar Wert“ eingebracht. Er fügte hinzu: „Ich habe mich anonym gehalten, damit die Vorschriften durchgreifen können. Ich brauche nicht berühmt zu sein. Mein Ziel war es, einen Unterschied zu machen.“

Neben der erheblichen Geldstrafe der FCC sieht Kramer auch rechtlichen Konsequenzen entgegen. Der Attorney General von New Hampshire, John M. Formella, kündigte im Mai an, dass Kramer mit 13 strafrechtlichen Anklagen wegen Wählerunterdrückung und 13 Anklagen wegen falscher Identität eines Kandidaten konfrontiert wird.