A Tecnologia de Clonagem de Voz Impulsionará os Anúncios Políticos de 2024 em Meio ao Crescente Preocupação com a Desinformação

As preocupações com a desinformação envolvendo a IA nas eleições de 2024 nos EUA estão crescendo, enquanto startups de clonagem de voz por IA começam a atuar na política.

Por exemplo, a Instreamatic, de Boca Raton, uma plataforma de publicidade em áudio/vídeo que levantou US$ 6,1 milhões em uma rodada de investimento Série A em 2021, está se expandindo para a publicidade política. A solução da Instreamatic permite que campanhas de candidatos criem rapidamente anúncios em vídeo e áudio gerados por IA, utilizando narrações em vez de vídeos tradicionais, que se ajustam a eventos ou locais em tempo real.

Uma demonstração mostrou como a Instreamatic pode modificar anúncios políticos em áudio ou vídeo, replicando a voz de um candidato sem a necessidade de regravação em estúdio. Desde março passado, a Instreamatic oferece seu produto de IA generativa de voz para marcas e agências, permitindo que um único anúncio finalizado gere variações ilimitadas adaptadas a fatores como localização da audiência, horário do dia, plataforma de exibição do anúncio ou lojas locais.

Entretanto, a introdução da IA nas campanhas eleitorais de 2024 apresenta um risco potencial de desinformação. Um recente relatório da ABC News destacou o uso de imagens e áudios gerados por IA do ex-presidente Donald Trump pelo governador da Flórida, Ron DeSantis, gerando preocupações sobre as implicações da IA generativa. Nathan Lambert, pesquisador em aprendizado de máquina no Allen Institute for AI, alerta que, sem regulamentações, a IA pode transformar as eleições de 2024 em um caos.

A Instreamatic garante conformidade ao exigir autorização explícita para o uso de vozes. O CEO Stas Tushinskiy declarou que verificarão a autorização dos clientes e que seus serviços de publicidade política não estarão disponíveis para todos os solicitantes. “Não é possível apenas se inscrever,” explicou. “Estamos envolvidos na criação de campanhas para evitar o uso indevido de nossa plataforma,” enfatizando que conteúdos problemáticos serão rapidamente removidos e abordados publicamente, se necessário.

Tushinskiy esclareceu que a Instreamatic não está reinventando a publicidade política, mas sim automatizando um processo já complexo. Tradicionalmente, candidatos passam horas em estúdios gravando anúncios, com etapas adicionais que envolvem uploads e verificações de erros. A tecnologia da Instreamatic reduz esse tempo de semanas para meros minutos, otimizando o processo de criação de anúncios.

Especialistas alertam que o cenário da publicidade política permanece arriscado devido ao possível uso indevido da IA. Atualmente, não há regulamentações federais que regulem o uso de conteúdo gerado por IA nas campanhas políticas. Russell Wald, diretor de políticas do Instituto de IA Centrada no Humano da Universidade de Stanford, destacou a falta de regras enquanto as campanhas avançam sem supervisão adequada.

Tushinskiy reiterou que a Instreamatic busca aumentar a produtividade e a eficácia, não gerar desinformação. “Se fôssemos os criadores de desinformação, eu não gostaria de fazer parte desse processo,” afirmou, enfatizando o compromisso da empresa em impedir o uso antiético de sua tecnologia e potencialmente expor tais ações.