FCC, 정치 컨설턴트에 600만 달러 벌금 부과, 허위 딥페이크 로보콜로 인해

연방통신위원회(FCC)는 정치 컨설턴트 스티브 크레이머에게 뉴햄프셔 예비선거 기간 중 딥페이크 AI 기술과 발신자 ID 스푸핑을 이용한 불법 로보콜을 실행한 혐의로 600만 달러의 상당한 벌금을 부과했습니다. 크레이머는 이 벌금을 30일 이내에 지불해야 하며, 그렇지 않을 경우 법무부가 징수 절차를 개시할 것입니다.

크레이머의 행동은 2009년에 제정된 발신자 ID 진실법을 위반한 것으로, 이 법은 사기를 목적으로 잘못된 발신자 정보를 의도적으로 전송하는 것을 금지합니다. 이 법은 인공지능 기술의 부상 이전에 제정되었지만, FCC는 지난 2월 딥페이크 기술에 대한 적용 범위를 확장하기 위해 만장일치로 투표했습니다.

이 불법 로보콜에서 사용된 딥페이크 오디오는 바이든 대통령의 음성을 모방하여 뉴햄프셔 유권자들을 오도했습니다. 잘못된 메시지는 “당신의 투표는 11월에 중요한 것이지, 이번 화요일에는 그렇지 않다”라며 유권자들에게 예비선거에 참여하지 말 것을 권장했습니다. 또한, 이 통화는 뉴햄프셔 민주당 전 당수로부터 발신된 것처럼 조작되었습니다.

크레이머는 뉴올리언스의 마술사 폴 카펜터를 고용하여 가짜 녹음을 제작했습니다. 카펜터는 NBC 뉴스에 AI 음성 생성기인 ElevenLabs를 사용해 약 20분 만에 딥페이크 오디오를 생성하는 과정을 시연했습니다. 그는 Venmo를 통해 보수를 받았으며 이 프로젝트가 바이든 캠페인에 의해 승인된 것이라고 믿었다고 전했습니다. 이후 ElevenLabs는 카펜터의 계정을 비활성화했습니다.

크레이머는 로보콜의 의도가 이 기술의 잠재적 위험과 남용을 강조하기 위한 것이었다고 주장했습니다. 그의 노력은 단 500달러의 비용으로 이루어졌지만, 그는 “500만 달러 상당의 노출”을 얻었다고 주장했습니다. 그는 “내가 익명으로 있었던 이유는 규제가 자연스럽게 작동하도록 하기 위해서였다. 나는 유명해질 필요가 없다. 내 목표는 변화를 만드는 것이었다”고 덧붙였습니다.

FCC의 막대한 벌금 외에도 크레이머는 법적 제제에 직면해 있습니다. 뉴햄프셔 법무장관 존 M. 포르멜라는 지난해 5월 크레이머에게 유권자 억압에 대한 중범죄 13건과 후보자 사칭에 대한 경범죄 13건의 혐의가 추가되었다고 발표했습니다.

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles