La tecnología de clonación de voz impulsará los anuncios políticos de 2024 en medio de crecientes preocupaciones sobre la desinformación.

Las preocupaciones sobre la desinformación relacionada con la inteligencia artificial en las elecciones en EE. UU. de 2024 están en aumento, mientras que las startups de clonación de voz con IA ingresan al ámbito político.

Un ejemplo es Instreamatic de Boca Ratón, una plataforma de publicidad de audio y video basada en IA que recaudó 6.1 millones de dólares en una ronda de financiamiento Serie A en 2021, y que ahora se expande a la publicidad política. La solución de Instreamatic permite a las campañas de los candidatos crear rápidamente anuncios de video y audio generados por IA altamente segmentados, utilizando voces en off en lugar de videos tradicionales de candidatos, adaptándose a eventos o lugares en tiempo real.

Una demostración mostró cómo Instreamatic puede modificar anuncios políticos de audio o video replicando la voz de un candidato sin necesidad de regrabaciones en estudio. Desde marzo pasado, Instreamatic ha ofrecido su producto de voz generativa a marcas y agencias, permitiendo generar variaciones ilimitadas a partir de un anuncio ya finalizado, adaptándose a factores como ubicación del público, hora del día, plataforma de difusión o tiendas locales.

Sin embargo, la introducción de la IA en las campañas electorales de 2024 conlleva un potencial riesgo de desinformación. Un informe reciente de ABC News mencionó el uso de imágenes y audio generados por IA del ex presidente Donald Trump por parte del gobernador de Florida, Ron DeSantis, lo que ha suscitado preocupaciones sobre las implicaciones de la IA generativa. Nathan Lambert, investigador en aprendizaje automático del Allen Institute for AI, advierte que sin regulaciones, la IA podría convertir las elecciones de 2024 en un caos.

Instreamatic garantiza el cumplimiento al requerir permiso explícito para el uso de voces. El CEO Stas Tushinskiy indicó que verifican la autorización del cliente y que sus servicios de publicidad política no estarán disponibles para todos los solicitantes. "No puedes simplemente registrarte", explicó. "Participamos en la creación de campañas para evitar el uso indebido de nuestra plataforma", enfatizando que el contenido problemático se eliminaría de inmediato y se abordaría públicamente si fuera necesario.

Tushinskiy aclaró que Instreamatic no está reinventando la publicidad política, sino que está automatizando un proceso ya complicado. Tradicionalmente, los candidatos pasan horas en estudios grabando anuncios, con pasos adicionales que incluyen cargas y revisiones de errores. La tecnología de Instreamatic reduce este tiempo de semanas a minutos, optimizando el proceso de creación de anuncios.

Los expertos advierten que el panorama de la publicidad política sigue siendo peligroso ante el posible uso indebido de la IA. Actualmente, no existen regulaciones federales que rijan el uso de contenido generado por IA en campañas políticas. Russell Wald, director de políticas del Instituto para la IA Centrada en el Ser Humano de la Universidad de Stanford, destacó la falta de normas mientras las campañas avanzan sin suficiente supervisión.

Tushinskiy reiteró que Instreamatic busca mejorar la productividad y efectividad, no generar desinformación. "Si fuéramos nosotros los que creamos desinformación, no querría ser parte de este proceso", afirmó, subrayando el compromiso de la empresa de detener el uso poco ético de su tecnología y de exponer tales acciones si es necesario.