iProov: 70%의 조직이 생성적 AI 딥페이크로 인한 주요 영향을 기대하고 있습니다.

HBO의 인기 시리즈 “왕좌의 게임”에서 "화이트 워커들이 온다"는 경고는 인류를 위협하는 얼음 생물의 존재를 의미합니다. 이와 유사하게, 생체 인증 회사 iProov의 사장 아제이 암라니는 딥페이크에 대해 같은 긴급성을 느껴야 한다고 주장합니다.

“최근 몇 년간 딥페이크에 대한 우려가 커지고 있습니다,”라고 암라니는 설명했습니다. “이제 겨울이 왔습니다.” iProov의 최근 조사에 따르면, 47%의 조직이 딥페이크를 경험했으며, 70%는 생성 AI로 만들어진 딥페이크가 그들의 운영에 중대한 영향을 미칠 것이라고 믿고 있습니다. 충격적인 것은 단 62%만이 이 위협을 진지하게 받아들이고 있다는 점입니다.

“이는 진지한 우려입니다,”라고 암라니는 강조했습니다. “완전히 허구의 인물을 만들어 실제처럼 보이고, 소리내고, 반응할 수 있습니다.”

딥페이크—사실감 넘치는 제작된 아바타, 음성 및 미디어—은 빠르게 발전하여 실제와 거의 구별할 수 없게 되었습니다. 이러한 정교함은 조직과 정부에 심각한 위험을 초래합니다. 예를 들어, 한 재무 직원은 “최고재무책임자”의 딥페이크 영상 통화에 속아 2천5백만 달러를 잃었습니다. 더불어 사이버 보안 회사 KnowBe4는 한 신입 직원이 보안 조치를 우회하기 위해 딥페이크 기술을 사용한 북한 해커였음을 밝혔습니다.

암라니는 지역별로 딥페이크 사고 발생률에 상당한 차이가 있음을 지적했습니다: 아시아 태평양 지역의 51%, 유럽의 53%, 라틴 아메리카의 53%가 딥페이크를 경험했으며, 북미는 단 34%에 불과합니다. “많은 악의적인 행위자들이 국제적으로 활동하며, 종종 지역을 먼저 타겟으로 합니다,”라고 그는 덧붙였습니다.

이 조사는 딥페이크를 비밀번호 유출(64%) 및 랜섬웨어(63%)와 함께 주요 보안 우려 사항으로 조사하며, 피싱/사회공학과 딥페이크는 각각 61%의 응답자에게 영향을 미쳤습니다. “디지털 정보를 신뢰하기 점점 더 어려워지고 있습니다,”라고 암라니는 말했습니다. “온라인의 모든 것을 의심하고, 신원을 검증하기 위한 강력한 방어를 구축하는 것이 중요합니다.”

딥페이크 위협을 위한 생체 인증 솔루션

처리 속도의 증가, 정보 공유의 향상 및 생성 AI의 발전은 위협 행위자들이 정교한 딥페이크를 만드는 데 도움을 주었습니다. 암라니에 따르면, 영상 공유 플랫폼에서의 콘텐츠 플래그 같은 일부 기본적인 조치는 불충분합니다. “이러한 시도는 광범위한 문제의 표면만 간신히 긁을 뿐입니다,”라고 그는 말했습니다.

전통적인 인증 방법, 예를 들어 캡챠는 너무 복잡해져 진짜 사용자가 신원을 증명하는 데 어려움을 겪고 있습니다. 특히 노인이나 인지 장애가 있는 사람들에게 더 그렇습니다. 반면, 암라니는 생체 인증이 더 효과적인 해결책이라고 주장합니다.

iProov의 연구에 따르면, 75%의 조직이 딥페이크에 대한 주요 방어로 얼굴 생체 인식을 채택하고 있으며, 다단계 인증(67%) 및 딥페이크 위험 교육(63%)이 뒤를 잇고 있습니다. 기업들은 보안 조치 감사(57%) 및 시스템 업데이트(54%)를 통해 딥페이크 위협에 대응하고 있습니다.

딥페이크에 대한 다양한 생체 인증 방법의 효과는 다음과 같습니다:

- 지문: 81%

- 홍채: 68%

- 얼굴: 67%

- 고급 행동: 65%

- 손바닥: 63%

- 기본 행동: 50%

- 음성: 48%

모든 생체 인증 도구가 동일하게 효과적인 것은 아니라고 암라니는 지적합니다. 일부 방법은 번거로운 동작이 필요해 딥페이크 제작자가 쉽게 우회할 수 있습니다. 반면, iProov는 장치 화면의 빛 반사를 활용하여 독특한 얼굴 특징을 분석하는 AI 기반 도구를 사용합니다. 결과가 예상 패턴과 다를 경우, 이는 위협 행위자가 신체 이미지나 가면을 악용하려는 시도를 나타낼 수 있습니다.

iProov의 기술은 상업 및 정부 부문에 걸쳐 적용되고 있으며, 암라니는 98% 이상의 통과율로 “매우 안전하고 빠른 해결책”을 제공한다고 주장합니다.

“딥페이크 위협에 대한 폭넓은 인식이 있습니다,”라고 암라니는 결론지었습니다. “이 문제를 해결하기 위해서는 글로벌 노력이 필수적입니다. 악의적인 행위자들은 국경 없이 활동합니다. 이제 우리는 이 도전에 대비할 시간입니다.”