FCC Penaliza Consultor Político em $6 Milhões por Robocalls Enganosas com Deepfake

A Comissão Federal de Comunicações (FCC) impôs uma multa significativa de $6 milhões ao consultor político Steve Kramer por realizar chamadas robocall ilegais que utilizaram tecnologia de deepfake e falsificação de ID de chamador durante as primárias de New Hampshire. Kramer deve pagar essa penalidade em até 30 dias, ou o Departamento de Justiça iniciará os procedimentos de cobrança.

As ações de Kramer violaram a Lei da Verdade na Identificação do Chamador, promulgada em 2009, que proíbe a transmissão intencional de informações enganadoras de identificação de chamador com a intenção de fraudar ou causar danos. Embora a lei preceda o surgimento da inteligência artificial, a FCC votou unânime em fevereiro para estender sua aplicabilidade à tecnologia de deepfake.

Essas chamadas fraudulentas apresentaram uma imitação de áudio de deepfake do Presidente Biden, enganando os eleitores de New Hampshire à medida que a eleição primária se aproximava. A mensagem falsa aconselhava os eleitores a não participarem da primária, afirmando: "Seu voto faz a diferença em novembro, não nesta terça-feira." Além disso, as chamadas foram manipuladas para parecer que se originavam da ex-presidente do Partido Democrata de New Hampshire.

Kramer contou com o mágico de Nova Orleans, Paul Carpenter, para produzir as gravações falsas. Carpenter demonstrou à NBC News como usou um gerador de voz de IA, ElevenLabs, para criar o áudio deepfake em cerca de 20 minutos. Ele declarou que recebeu pagamento via Venmo e acreditava que o projeto tinha a aprovação da campanha de Biden. Desde então, a ElevenLabs desativou a conta de Carpenter.

Kramer afirma que sua intenção com as robocalls era destacar os perigos e abusos potenciais dessa tecnologia. Embora seu projeto tenha lhe custado apenas $500, ele assegura que gerou uma grande exposição, equivalente a "5 milhões de dólares em publicidade." Ele acrescentou: "Mantive-me anônimo para que as regulamentações pudessem se desenrolar naturalmente. Não preciso ser famoso. Minha intenção era fazer a diferença."

Além de enfrentar a multa substancial da FCC, Kramer também enfrenta repercussões legais. O Procurador-Geral de New Hampshire, John M. Formella, anunciou em maio passado que Kramer é acusado de 13 crimes graves de supressão de votos e 13 contravenções de se passar por um candidato.