오늘, 음성 보안, 신원 인증 및 사기 탐지 분야의 선두주자인 Pindrop이 AI 생성 음성을 디지털 오디오 및 비디오 파일에서 99%의 놀라운 정확도로 탐지하는 웹 기반 도구인 Pulse Inspect를 공개했습니다. 현재 Pindrop의 Pulse 스위트의 일환으로 미리보기 버전이 제공되는 Pulse Inspect는 생성에 사용된 도구나 모델과 상관없이 AI 생성 콘텐츠를 탐지할 수 있습니다.
이 혁신적인 솔루션은 AI 공급업체들이 일반적으로 자사 플랫폼에서 생성된 콘텐츠에 한정된 분류기를 출시하는 주류 산업 관행과 차별화됩니다. Pindrop은 오디오 딥페이크 리스크에 대규모로 대응해야 하는 조직을 대상으로 Pulse Inspect를 연간 구독 형식으로 제공합니다. CEO Vijay Balasubramaniyan은 시장 수요에 따라 개별 소비자를 위한 제한된 검사 수의 더 저렴한 가격대도 도입할 수 있다고 언급했습니다.
오디오 딥페이크의 증가 대응
딥페이크는 수년간 존재해 왔지만, 텍스트 기반 생성 AI의 확산으로 그들의 온라인 가시성이 높아졌습니다. Microsoft와 ElevenLabs와 같은 기업의 도구는 유명인, 비즈니스 인물 및 정치인을 모방한 사기성 오디오 및 비디오 콘텐츠를 생성하는 데 사용되었습니다. 이는 허위 정보와 평판 손상을 초래합니다. Pindrop의 내부 보고서에 따르면, 1천200만 명 이상의 미국 성인이 비동의 딥페이크 생성 피해자를 알고 있습니다. 이러한 복제물은 이미지, 비디오 및 오디오에 걸쳐 있으며, 사회적 미디어에서 빠르게 확산됩니다.
Pindrop은 올해 초 Pulse 스위트를 출시하며 첫 번째 솔루션인 딥페이크 전화를 탐지하는 도구에 중점을 두었습니다. Pulse Inspect는 조직이 합성 아티팩트를 탐색할 수 있도록 기능을 확장합니다.
효율적인 오디오 분석
Pulse Inspect는 사용자가 의심스러운 파일을 즉시 분석할 수 있도록 하는 간단한 웹 애플리케이션으로 작동합니다. 이전에는 합성 아티팩트를 식별하기 위해 노동 집약적인 포렌식 작업이 필요했습니다. 하지만 이제 이 도구는 파일을 몇 초 만에 처리하며 “딥페이크 점수”를 생성하고 AI 생성 음성을 포함하는 섹션을 정확하게 지목합니다. 이러한 신속한 분석은 조직이 허위 정보를 선제적으로 대응하고 브랜드의 완전성을 유지할 수 있도록 합니다.
고급 탐지 훈련
Pindrop의 독자적인 탐지 모델은 350개 이상의 딥페이크 생성 도구와 2천만 개의 고유한 발화를 포함하는 40개 이상의 언어에서 훈련되어, 약 200,000개 샘플로 구성된 데이터셋의 내부 평가에 따라 딥페이크 오디오를 99%의 정확도로 탐지합니다. 이 모델은 미디어 파일에서 합성 아티팩트를 4초마다 평가하여 혼합 미디어 환경에서도 정확한 분류를 보장합니다. Balasubramaniyan은 “Pindrop의 기술은 심층 신경망(DNN)과 복잡한 스펙트로-시간 분석을 활용하여 여러 방법으로 합성 아티팩트를 탐지합니다”라고 설명했습니다.
포괄적인 탐지 능력
Pulse Inspect의 강점은 공급업체 특정 제한 없이 딥페이크를 인식할 수 있는 능력에 있습니다. Balasubramaniyan은 많은 일반적인 오디오 딥페이크가 상업적 도구보다는 오픈 소스 도구에서 발생한다고 지적했습니다. Pindrop의 광범위한 탐지 도구는 여러 생성 시스템에서 합성 오디오를 식별하는 데 필수적입니다.
그러나 이 도구는 2초 미만의 음성이나 과도한 배경 소음이 포함된 파일에 대해 어려움을 겪을 수 있다는 점을 인식하는 것이 중요합니다. 팀은 탐지 정확도를 향상시키고 이러한 제한을 해결하기 위해 활발히 노력하고 있습니다. 현재 Pindrop은 미디어 기업, 비영리 단체, 정부 기관, 유명인 관리 회사, 법률 회사 및 소셜 미디어 플랫폼과 같은 다양한 조직을 대상으로 Pulse Inspect를 제공합니다. Balasubramaniyan은 특정 고객 수치를 공개하지 않았지만, 여러 파트너들이 연간 구독을 통해 이 제품을 활용하고 있다고 확인했습니다. TrueMedia.org을 포함하여 사용자가 중요한 선거 맥락에서 딥페이크를 식별하는 데 도움을 줍니다.
수동 업로드 외에도, Pulse Inspect는 API를 통해 맞춤형 포렌식 워크플로에 통합될 수 있으며, 소셜 미디어에서 유해한 AI 생성 콘텐츠를 플래그 지정하고 제거하는 대량 사용 사례를 용이하게 합니다. 향후 Pindrop은 Pulse 스위트를 개선하고 도구의 설명 가능성을 강화하며 딥페이크 생성의 출처를 추적하는 기능과 추가 모달리티 지원을 확대할 계획입니다.
순위 목록
