테일러 스위프트의 논란이 된 AI 딥페이크, 팬들과 법률가들 사이에서 분노 유발

최근 24-48시간 내에 X, 즉 이전의 트위터에서 확인했다면, AI 생성의 딥페이크 이미지와 비디오가 테일러 스위프트를 포함한 내용으로 가득 차 있었을 것입니다. 이러한 노출된 이미지는 그녀의 남자친구, NFL 선수 트래비스 켈세의 팬들과의 비동의 상황을 묘사하고 있습니다.

이 비동의 이미지는 스위프트 팬들 사이에서 큰 분노를 일으켰고, #ProtectTaylorSwift와 “Taylor Swift AI” 해시태그가 함께 트렌드에 올랐습니다. 전 세계의 뉴스 매체들이 이 사건을 보도하는 한편, X는 콘텐츠 제거와 재게시 방지를 시도했으나 ‘털어내기 게임’처럼 쉽지 않았습니다.

이 사건은 미국 정치인들 사이에서 급변하는 생성 AI 시장을 규제해야 한다는 논의를 다시불러일으켰습니다. 그러나 혁신을 저해하거나 퍼러디, 팬 아트 및 공적 인물에 대한 표현을 보호하는 수정 제1조 권리를 침해하지 않으면서 규제를 어떻게 집행할 수 있을지에 대한 중요한 질문은 여전히 남아 있습니다.

AI 딥페이크 생성에 사용된 도구는?

스위프트 딥페이크를 생성하는 데 사용된 특정 AI 도구는 아직 불확실합니다. 미드저니와 OpenAI의 DALL-E 3와 같은 주요 플랫폼은 노출적이거나 암시적인 콘텐츠 생성을 엄격히 금지하고 있습니다. 뉴스위크에 따르면, X에서 @Zvbear 계정이 일부 딥페이크를 게시했다고 주장했으나 이후 계정을 비공개로 전환했습니다.

독립 기술 언론 404 미디어의 조사에 따르면, 해당 이미지는 "마이크로소프트의 AI 도구"가 사용된 텔레그램 그룹에서 비롯된 것으로 보이며, 특히 DALL-E 3에 의해 작동되는 마이크로소프트의 디자이너를 사용한 것으로 나타났습니다.

비록 엄격한 정책이 시행되고 있지만, Stability AI의 오픈소스 AI 모델인 스테이블 디퓨전은 사용자가 성적으로 노출된 자료를 포함한 다양한 콘텐츠를 생성할 수 있도록 허용합니다. 이 유연성은 비동의 AI 이미지를 만드는 데 도움이 되는 플랫폼인 Civitai가 논란의 대상이 된 원인이 되었습니다. Civitai는 이러한 오용을 방지하기 위한 노력을 발표했으나 스위프트 딥페이크와의 연관성은 없습니다.

Clipdrop에서도 스테이블 디퓨전을 구현했지만 노출된 콘텐츠를 금지하고 있습니다. 그럼에도 불구하고 사용자는 이러한 안전 장치를 우회하는 방법을 지속적으로 찾아내어 스위프트 딥페이크 이미지의 최근 유입을 초래했습니다.

동의 기반의 창작 프로젝트—예를 들어 HBO의 "True Detective: Night Country"—에 대한 AI의 수용이 증가하는 가운데, 해로운 목적을 위한 기술의 오용은 공적 이미지에 오명을 씌우고 더 엄격한 규제를 초래할 수 있습니다.

잠재적인 법적 조치

대니 미일에서 보도된 바에 따르면, 테일러 스위프트는 노출된 이미지의 유포에 대해 "화가 났다"고 하며 법적 대응을 고려하고 있습니다. 이 조치가 이미지를 호스팅한 플랫폼 Celeb Jihad을 겨냥할 것인지, 생성에 사용된 AI 도구를 겨냥할 것인지, 또는 이를 제작한 이들을 겨냥할지는 아직 확실하지 않습니다.

이 사건은 생성 AI 도구와 실제 인물을 묘사하는 유해한 이미지를 생성할 수 있는 잠재력에 대한 우려를 높이며, 미국 입법자들로부터 더 강력한 규제를 촉구하는 목소리를 더욱 높이고 있습니다.

뉴저지 출신 공화당 의원 톰 킨(Jr.)은 최근 두 개의 법안을 발의했습니다: AI 레이블링 법안과 친밀한 이미지의 딥페이크 방지 법안. 두 제안 모두 AI 분야에서의 규제를 강화하는 것을 목표로 합니다.

AI 레이블링 법안은 AI 생성 콘텐츠에 그 생성이 인공지능에 의해 이루어진 것임을 명시하는 표기를 포함하도록 의무화할 것입니다. 그러나 이러한 표기가 노출된 콘텐츠의 전파를 방지하는데 효과적일지에 대해서는 의문이 제기되고 있습니다. 메타와 OpenAI는 이미 AI 생성 이미지에 대한 사용자 안내를 위한 유사한 레이블링 조치를 시행하고 있습니다.

두 번째 법안은 민주당원 조 모렐(Joe Morelle)과 공동 발의하였으며, 여성에 대한 폭력 방지 법을 개정하는 내용을 담고 있습니다. 이 법안은 비동의 딥페이크의 피해자가 제작자와 플랫폼에 대하여 법적 조치를 취하며 최대 $150,000의 손해 배상과 10년 이하의 징역형을 부과할 수 있는 권한을 부여합니다.

이 법안들이 스위프트의 사건에 직접적으로 도움이 되지는 않겠지만, 향후 AI 생성 딥페이크 피해자들에 대한 더 나은 보호를 위한 길을 열 수 있습니다.

두 법안이 법률로 제정되기 위해서는 관련 위원회를 통과하고, 하원의 전원 투표를 거쳐 상원에서 상응하는 법안이 통과해야 합니다. 현재 두 법안은 도입 단계에 있습니다.

킨 의원의 사건에 대한 성명

딥페이크 사건에 대한 반응으로 킨 의원은 “AI 기술이 필요한 방어 수단보다 더 빠르게 발전하고 있다. 피해자가 테일러 스위프트이든 우리나라의 어떤 젊은이든, 우리는 이 우려스러운 추세에 맞서기 위한 안전 장치를 구축해야 합니다. 제 법안, AI 레이블링 법안은 중요한 진전을 의미할 것입니다.”라고 밝혔습니다.

이 사건과 유사한 사례들은 AI 생성 콘텐츠와 그것이 프라이버시 및 개인 안전에 미치는 영향에 대한 우려를 다루기 위한 입법 조치의 필요성을 절실히 부각시키고 있습니다.