맥아피, AI 음성 클로닝 사기를 방지하기 위한 프로젝트 모킹버드 출시

맥아피, 프로젝트 모킹버드 발표: AI 생성 딥페이크 오디오 사기에 대한 방패

AI 기반 사기의 위협이 증가함에 따라, 맥아피는 사이버 범죄자들이 오디오를 조작하여 잘못된 정보를 퍼뜨리고 사기를 실행하는 것으로부터 소비자를 보호하기 위해 AI 기반 딥페이크 오디오 탐지 기술인 프로젝트 모킹버드를 출시했습니다.

CES 2024에서 발표된 이 기술은 라스베이거스에서 열리는 주요 기술 박람회에서 사용자들을 속이는 딥페이크 오디오로부터 방어하는 것을 목표로 하고 있습니다. 맥아피의 CTO인 스티브 그로브맨은 딥페이크 사기가 뉴스 앵커와 같은 인지 가능한 화자의 목소리를 변경하여 전혀 다른 말을 하도록 조작하는 경우가 많다고 설명했습니다.

그로브맨은 "맥아피는 항상 소비자를 디지털 위협으로부터 보호하는 데 주력해왔습니다. 생성적 AI의 등장으로 사이버 범죄자들이 이러한 기술을 이용하여 다양한 사기를 연출하는 큰 변화가 일어나고 있습니다"라고 밝혔습니다.

선거 시즌이 다가오면서 생성적 AI의 허위 정보 캠페인에 대한 우려가 커지고 있습니다. 맥아피는 고객이 진짜와 조작된 동영상을 구별할 수 있도록 기술을 강화하는 데 전념하고 있습니다. 딥페이크가 해킹된 콘텐츠와 결합될 가능성이 있어 감별 작업이 더욱 복잡해지는 상황입니다.

그로브맨은 인섬니악 게임스 사례를 들어 해커들이 개인 데이터를 유출한 사건을 언급하며, 딥페이크 오디오가 실제 해킹된 영상에 매끄럽게 통합될 수 있어 소비자에게 혼란을 가중시킬 수 있다고 설명했습니다.

프로젝트 모킹버드는 오디오 트랙이 원래 발화자가 맞는지를 식별하기 위해 정교한 AI 기술을 사용합니다. 이 기술은 발생하는 딥페이크 오디오의 심각한 추세에 대응하며, 비디오 딥페이크가 주목받는 가운데, 오디오 조작의 교활한 특성이 새로운 도전 과제가 되고 있음을 강조했습니다.

AI 기술의 발전은 사이버 범죄자들이 잘못된 콘텐츠를 생성할 수 있게 하여 조작된 오디오와 비디오를 이용한 사기를 벌입니다. 이러한 전술은 가까운 사람의 목소리를 복제하거나 진짜 비디오에 가짜 오디오를 추가하는 방식으로 소비자의 진위 판단을 복잡하게 만듭니다.

이러한 긴급한 요구에 부응하여, 맥아피 연구소는 AI 생성 오디오를 90% 이상의 정확도로 탐지할 수 있는 고급 AI 모델을 개발했습니다. 이 모델은 맥락적, 행동적, 범주적 탐지 기법을 결합하여 사용자 보호를 효과적으로 강화합니다.

그로브맨은 "이 기술은 사용자가 디지털 상호작용을 자신 있게 진행할 수 있도록 돕는 중요 요소입니다. 생성적 AI 사기가 증가함에 따라 소비자들이 진짜 콘텐츠와 사기 시도를 빠르게 구별할 수 있도록 도울 것입니다"고 강조했습니다.

CES 2024에서 맥아피는 프로젝트 모킹버드를 시연하며 그 기능을 참석자들에게 선보였습니다. 이 이니셔티브는 소비자를 디지털 위협으로부터 보호하기 위한 강력한 AI 모델 포트폴리오를 제공하려는 회사의 헌신을 강조합니다.

모킹버드의 행동을 본받아, 맥아피는 이러한 새들을 비유하며 사이버 범죄자들이 소비자를 속이기 위해 목소리를 복제한다는 점을 강조했습니다.

2023년 12월 맥아피의 조사에 따르면, 딥페이크 기술에 대한 광범위한 우려가 표출되었습니다. 응답자의 거의 68%가 작년보다 딥페이크에 대한 불안이 증가했다고 응답했으며, 33%는 딥페이크 사기에 대한 인식을 가지고 있다고 밝혔습니다. 주요 우려 사항으로는 선거 개입, 사이버 괴롭힘, 공공 인물 사칭이 포함됩니다.

그로브맨은 "중요한 선거 주기가 다가오는 만큼 딥페이크 기술이 공적 담론에 영향을 미칠 수 있다는 우려는 정당합니다. 우리의 AI는 인간의 눈에는 보이지 않는 미세한 특징을 식별하여 소비자들이 진짜와 조작된 콘텐츠를 구별할 수 있게 합니다"라고 언급했습니다.

맥아피의 탐지 기술은 원시 비디오 데이터를 분석하며, 콘텐츠의 진위 여부를 확인하기 위해 기계 학습 모델을 활용합니다. 이 시스템은 과거에 악성 코드 탐지를 위해 사용되었으며, 깊이 변형된 오디오 및 비디오를 식별하는 데 적응하여 소비자 안전을 강화합니다.

복잡해지는 디지털 환경을 내비게이션하기 위해, 그로브맨은 소비자들의 회의적 태도와 딥페이크 기술에 대한 교육의 중요성을 강조했습니다. "소비자들이 어떤 것이 이상하게 느껴질 경우, 그것이 AI로 생성된 것일 수 있음을 인식하기를 바랍니다. 우리의 목표는 그들이 사기성 콘텐츠를 식별하고 안전한 디지털 경험을 보장하는 데 도움을 주는 신뢰할 수 있는 기술을 제공하는 것입니다."

프로젝트 모킹버드는 AI 기반 조작의 증가하는 위협에 대한 맥아피의 선제적 대응으로, 실험 단계에서 핵심 제품으로 발전하고 있습니다.