La FCC sanctionne un consultant politique de 6 millions de dollars pour des appels automatisés trompeurs utilisant des deepfakes.

La Federal Communications Commission (FCC) a infligé une amende salée de 6 millions de dollars au consultant politique Steve Kramer pour avoir réalisé des robocalls illégaux utilisant la technologie deepfake d'intelligence artificielle et le spoofing d'identifiant d'appel lors des primaires du New Hampshire. Kramer doit s'acquitter de cette pénalité dans un délai de 30 jours, faute de quoi le Département de la Justice lancera des procédures de recouvrement.

Les actions de Kramer ont violé la loi sur la vérité dans l'identification des appelants (Truth in Caller ID Act), adoptée en 2009, qui interdit la transmission intentionnelle d'informations d'identification trompeuses pour frauder ou nuire. Bien que cette loi ait été promulguée avant l'essor de l'intelligence artificielle, la FCC a voté à l'unanimité en février pour étendre son application à la technologie deepfake.

Ces robocalls frauduleux comprenaient une impersonation audio deepfake de Président Biden, induisant en erreur les électeurs du New Hampshire à l'approche des élections primaires. Le message fallacieux conseillait aux électeurs de ne pas participer à la primaire, en déclarant : « Votre vote compte en novembre, pas ce mardi. » De plus, les appels étaient manipulés pour sembler provenir de l'ancienne présidente du Parti démocrate du New Hampshire.

Kramer a fait appel au magicien de la Nouvelle-Orléans, Paul Carpenter, pour produire les enregistrements falsifiés. Carpenter a expliqué à NBC News comment il a utilisé un générateur de voix par IA, ElevenLabs, pour créer l'audio deepfake en environ 20 minutes. Il a affirmé avoir été payé via Venmo et avoir cru que le projet était sanctionné par la campagne de Biden. Depuis, ElevenLabs a désactivé le compte de Carpenter.

Kramer soutient que son intention derrière ces robocalls était de mettre en lumière les dangers et abus potentiels de cette technologie. Bien que son entreprise ne lui ait coûté que 500 dollars, il affirme qu'elle a généré une exposition substantielle, équivalente à « 5 millions de dollars d'exposition ». Il a ajouté : « Je suis resté anonyme pour que les régulations puissent suivre leur cours. Je n'ai pas besoin de célébrité. Mon intention était de faire une différence. »

En plus de cette amende conséquente de la FCC, Kramer fait également face à des répercussions juridiques. Le procureur général du New Hampshire, John M. Formella, a annoncé en mai dernier que Kramer était inculpé de 13 chefs d'accusation criminels de suppression de vote et de 13 chefs d'accusation pour usurpation d'identité d'un candidat.