선거 딥페이크 분석하는 UC 버클리 교수: 오늘날 디지털 시대의 허위 정보와의 전쟁

최근 역사에서 기술이 사회에 더 큰 위협이 된 적은 없는 것 같은데, 바로 딥페이크입니다. 이 조작된 AI 생성 콘텐츠는 이미 정치에서 무기로 사용되고 있으며, 다가오는 미국 대통령 선거와 상원 및 하원 선거에서 주요한 역할을 할 것으로 예상됩니다. 규제 당국이 이 기술을 제어하기 위해 혈안이 되어 있는 가운데, 매우 사실적인 딥페이크가 후보자에 대한 비방, 여론 조작, 유권자 참여 유도에 사용되고 있습니다. 반면 일부 후보자들은 생성적 AI를 활용해 캠페인을 강화하려고 했지만 종종 재앙적인 결과를 초래했습니다.

캘리포니아 대학교 버클리 정보학부의 한니 파리드 교수는 이 문제에 대응하기 위해 2024년 대통령 선거 기간 동안 딥페이크를 모니터링하는 프로젝트를 시작했습니다. “이 콘텐츠에 대한 관심을 불러일으킴으로써 언론과 대중의 인식을 높이고, 이를 제작하는 사람들에게 우리가 지켜보고 있으며 반드시 찾아낼 것임을 알리고자 합니다.”라고 파리드는 말했습니다.

그의 사이트에서는 조 바이든 대통령이 군 복장을 착용한 이미지를 보여주며, 컴퓨터 마우스의 위치가 어긋나거나 기형적으로 왜곡된 천장 디자인과 같은 불일치를 강조하고 있습니다. 파리드의 연구는 또한 뉴햄프셔 예비선거 이전에 바이든을 사칭한 악명 높은 딥페이크 로보콜을 다룹니다. 이 전화는 시민들에게 투표를 하지 말라고 부탁하며 “이번 화요일에 투표하는 것은 공화당원들이 도널드 트럼프 전 대통령을 다시 선출하는 데만 도움이 됩니다.”라고 주장합니다. 이 전화의 출처는 불분명하지만, 음성 품질은 낮고 이상한 느낌을 줍니다.

또한 로드 디산티스의 딥페이크에서는 “나는 트럼프 대통령, 내 평생 최고의 대통령에게 도전하지 말았어야 했다.”라는 허위 주장을 하였습니다. 사이트에서는 앤서니 파우치 전 보건담당 고문과의 몽타주에서 비합리적인 백악관 로고와 왜곡된 미국 국기 같은 눈에 띄는 불일치를 비판합니다.

파리드는 유권자 감정의 미세한 변화도 선거에 영향을 미칠 수 있다고 지적합니다, 특히 주요 경합주에서 말입니다. 딥페이크의 범위는 확장되고 있으며, 점점 더 정교한 예가 등장하고 있습니다. 여기에는 트럼프가 체포되는 장면, 우크라이나 대통령 젤렌스키가 병사들에게 항복을 촉구하는 장면, 그리고 카말라 해리스 부통령이 공공 이벤트에서 취한 상태로 등장하는 장면이 포함됩니다. 이러한 조작 도구는 터키와 방글라데시 같은 국가에서 선거에 영향을 미친 사례가 있으며, 미네소타주 의원 딘 필립스와 마이애미 시장 프란시스 수아레즈 같은 일부 정치인들은 유권자를 끌어모으기 위해 딥페이크를 사용했습니다.

“나는 딥페이크의 정교함과 남용이 증가하는 것을 목격하고 있습니다.”라고 파리드는 말합니다. “올해는 전 세계적으로 수십억 명의 유권자가 준비하고 기술이 급격히 발전하는 전환점처럼 느껴집니다.”

유권자 조작의 위험뿐만 아니라, 딥페이크는 불법적이거나 부적절한 행동의 변명으로 사용될 수 있습니다. 이를 “거짓말의 배당금”이라고 부르며, 이미 트럼프와 일론 머스크와 같은 인물들이 이를 악용한 사례가 있습니다. “모든 것이 조작될 수 있다면, 실제로 존재할 필요가 없습니다.”라고 파리드는 강조합니다.

연구에 따르면 인간은 딥페이크 비디오를 50% 이상 식별하고 가짜 오디오는 73%의 확률로 감지할 수 있습니다. 기술이 믿을 수 없을 만큼 사실적으로 발전함에 따라, 소셜 미디어에서 조작된 콘텐츠의 확산은 정보 왜곡을 빠르게 일으킬 수 있습니다. “1년 전, 딥페이크는 주로 이미지 기반이었고 상당히 명백했지만, 오늘날 우리는 쉽게 사람들을 혼란스럽게 할 수 있는 정교한 오디오 및 비디오 딥페이크를 보고 있습니다.”라고 파리드는 회상합니다.

일관된 경고 신호를 찾는 것은 어렵지만, 파리드는 소셜 미디어를 뉴스 출처로 삼지 말 것을 권장합니다. “소셜 미디어를 사용해야 한다면, 천천히 생각하고 공유 전 비판적으로 검토하며, 자신의 편향을 인식해야 합니다. 잘못된 정보를 공유하는 것은 문제를 악화시킬 뿐입니다.”

실용적인 팁을 찾는 이들을 위해 노스웨스턴 대학교의 Detect Fakes 프로젝트는 스팟 능력을 평가하는 테스트를 제공하며, MIT 미디어랩에서는 다음과 같은 지침을 제공합니다:

- 얼굴에 집중하세요. 고품질 조작은 거의 항상 얼굴 변형을 포함합니다.

- 피부 불일치에 주목하세요. 지나치게 매끄럽거나 주름진 뺨과 이마는 머리카락 및 눈의 질감과 어색하게 연결될 수 있습니다.

- 물리학과 맞지 않는 그림자와 조명 효과를 관찰하세요.

- 움직임에 따라 변화하지 않는 과도한 유리에 주의하세요.

- 얼굴 털의 부자연스러운 추가 또는 제거를 분석하세요.

- 깜빡임 패턴과 입 움직임을 모니터링하세요. 많은 딥페이크는 립싱크에 의존합니다.

미국 선거와 관련된 딥페이크를 의심한다면, 추가 조사를 위해 파리드에게 연락하는 것을 고려해 보세요.