La technologie de clonage vocal va transformer les publicités politiques en 2024 face à l'inquiétude croissante concernant la désinformation.

Les préoccupations concernant la désinformation liée à l'IA lors des élections américaines de 2024 s'intensifient, tandis que des startups spécialisées dans le clonage vocal font leur entrée dans le domaine politique.

À titre d'exemple, Instreamatic, une plateforme publicitaire audio/vidéo basée à Boca Raton, ayant levé 6,1 millions de dollars lors d'un tour de financement de série A en 2021, se tourne désormais vers la publicité politique. La solution d'Instreamatic permet aux campagnes des candidats de créer rapidement des publicités vidéo et audio générées par IA, utilisant des voix off plutôt que des vidéos traditionnelles, et qui peuvent s'adapter aux événements ou lieux en temps réel.

Une démonstration a montré comment Instreamatic peut modifier les publicités politiques audio ou vidéo en reproduisant la voix d'un candidat sans nécessiter de nouvel enregistrement en studio. Depuis mars dernier, Instreamatic propose son produit d'IA vocale générative aux marques et agences, permettant de générer des variations illimitées à partir d'une annonce unique, en tenant compte d'éléments tels que la localisation de l'audience, l'heure de la journée, la plateforme diffusant l'annonce ou les magasins locaux.

Cependant, l'introduction de l'IA dans les campagnes électorales de 2024 soulève un risque potentiel de désinformation. Un récent rapport d'ABC News a noté l'utilisation par le gouverneur de Floride, Ron DeSantis, d'images et d'audios générés par IA du président ancien Donald Trump, suscitant des inquiétudes quant aux implications de l'IA générative. Nathan Lambert, chercheur en apprentissage automatique à l’Allen Institute for AI, avertit qu'en l'absence de régulations, l'IA pourrait plonger les élections de 2024 dans le chaos.

Instreamatic garantit la conformité en exigeant une autorisation explicite pour l'utilisation des voix. Le PDG Stas Tushinskiy a déclaré qu'ils vérifieraient l'autorisation des clients et que leurs services de publicité politique ne seraient pas disponibles pour tous les demandeurs. "Vous ne pouvez pas simplement vous inscrire," a-t-il expliqué. "Nous participons à la création de campagnes pour éviter une utilisation involontaire de notre plateforme," en soulignant que le contenu problématique serait rapidement supprimé et traité publiquement si nécessaire.

Tushinskiy a précisé qu’Instreamatic ne réinvente pas la publicité politique, mais automatise un processus déjà complexe. Les candidats passent traditionnellement des heures en studio à enregistrer des annonces, avec des étapes supplémentaires impliquant des téléchargements et des vérifications d’erreurs. La technologie d’Instreamatic réduit ce délai de plusieurs semaines à quelques minutes, simplifiant ainsi le processus de création d’annonces.

Des experts mettent en garde contre le paysage publicitaire politique, qui reste dangereux en raison des potentielles utilisations abusives de l'IA. Actuellement, aucune réglementation fédérale ne régit l’utilisation de contenus générés par IA dans les campagnes politiques. Russell Wald, directeur des politiques à l’Institut pour une IA axée sur l’humain de l’Université de Stanford, a souligné le manque de règles alors que les campagnes avancent sans supervision adéquate.

Tushinskiy a réaffirmé qu'Instreamatic vise à améliorer la productivité et l'efficacité, et non à générer de la désinformation. "Si nous étions à l'origine de la désinformation, je ne voudrais pas faire partie de ce processus," a-t-il déclaré, soulignant l'engagement de l'entreprise à stopper les utilisations douteuses de sa technologie et à exposer potentiellement de telles actions.