FCC impone una multa de $6 millones a consultor político por robo-llamadas engañosas con deepfake.

La Comisión Federal de Comunicaciones (FCC) ha impuesto una multa significativa de 6 millones de dólares al consultor político Steve Kramer por realizar llamadas automatizadas ilegales que utilizaron tecnología de deepfake y suplantación de identidad durante las primarias de New Hampshire. Kramer debe pagar esta multa en un plazo de 30 días, o el Departamento de Justicia iniciará procedimientos de cobro.

Las acciones de Kramer violaron la Ley de Veracidad en la Identificación del Llamador, promulgada en 2009, que prohíbe transmitir información engañosa de identificación del llamador con la intención de defraudar o causar daño. Aunque la ley se estableció antes del auge de la inteligencia artificial, la FCC votó de manera unánime en febrero para extender su aplicación a la tecnología de deepfake.

Estas llamadas automatizadas fraudulentas presentaron una imitación de audio deepfake del presidente Biden, engañando a los votantes de New Hampshire en el acercamiento de las elecciones primarias. El mensaje falso instaba a los votantes a no participar en la primaria, afirmando: “Tu voto cuenta en noviembre, no este martes.” Además, las llamadas fueron manipuladas para parecer que provenían de la expresidenta del Partido Demócrata de New Hampshire.

Kramer contrató al mago de Nueva Orleans Paul Carpenter para producir las grabaciones falsas. Carpenter demostró a NBC News cómo utilizó un generador de voz de IA, ElevenLabs, para crear el audio deepfake en aproximadamente 20 minutos. Afirmó haber recibido pago a través de Venmo y creía que el proyecto estaba autorizado por la campaña de Biden. ElevenLabs ha deshabilitado desde entonces la cuenta de Carpenter.

Kramer sostiene que su intención detrás de las robocalls era resaltar los peligros y abusos potenciales de esta tecnología. Aunque su esfuerzo le costó solo 500 dólares, afirma haber obtenido una exposición considerable, equivalente a "5 millones de dólares en exposición". Añadió: “Me mantuve anónimo para que las regulaciones se aplicaran. No necesito ser famoso. Mi intención era hacer una diferencia.”

Además de enfrentar la multa sustancial de la FCC, Kramer también enfrenta repercusiones legales. El fiscal general de New Hampshire, John M. Formella, anunció en mayo pasado que Kramer enfrenta 13 cargos por delitos mayores de supresión de votantes y 13 cargos menores de suplantación de un candidato.