디지털 프라이버시와 AI에서의 신뢰 격차 증가
미국인 87%가 디지털 프라이버시와 관련하여 기업의 책임을 요구하지만, 오히려 34%만이 기업이 AI를 효과적으로 사용하여 사기를 방지할 것이라고 믿고 있습니다. 이러한 현상으로 인해 상당한 신뢰 격차가 발생했습니다. 51%의 기업이 사이버 보안과 사기 예방을 위해 AI를 도입하고 있지만, 전 세계 고객의 43%만이 기업이 문제를 제대로 해결하고 있다고 생각합니다. 이는 기업이 신뢰 격차를 해소하고 AI 기반 보안 조치로 신뢰를 구축할 긴급한 필요성을 강조합니다. 심화되는 딥페이크 문제는 이러한 이슈를 더욱 악화시키고 있습니다.
신뢰 격차 이해하기
증가하는 신뢰 격차는 지속적인 고객 관계는 물론, 주요 세계 민주주의에서의 선거의 신뢰성에도 영향을 미치고 있습니다. Telesign의 2024년 신뢰 지수는 이러한 격차가 소비자 행동과 국가 선거 과정에 미치는 영향을 조명합니다.
딥페이크와 허위 정보의 영향
딥페이크와 허위 정보는 기업, 고객 및 선거에 참여하는 시민 간의 심각한 불신을 초래하고 있습니다. Adobe의 콘텐츠 진위 이니셔티브 수석 이사인 Andy Parsons는 "딥페이크에 속아 넘어가면, 온라인에서 보는 것에 대한 신뢰를 잃을 수 있습니다. 사람들이 허구와 사실을 구별하지 못할 때, 민주주의가 위험에 처합니다."라고 경고합니다. 소셜 미디어 플랫폼을 통한 딥페이크의 확산 용이성은 진짜와 가짜 콘텐츠를 구별하기 어렵게 만듭니다. 2020년 9월, Graphika와 Facebook이 지리적 문제에 대한 잘못된 정보를 게시한 중국 계정 네트워크를 차단한 사례가 있습니다. 국가들은 민주주의를 불안정하게 하고 사회 불안을 조장하기 위해 허위 정보 캠페인에 투자합니다.
미국 정보 커뮤니티의 2024년 연례 위협 평가서는 "러시아가 전문가를 속일 수 있는 딥페이크를 제작하는 데 AI를 사용하고 있다."며, 정치적으로 불안정한 지역의 개인을 타겟으로 악의적인 영향을 미친다고 강조합니다. 공격자들은 생성적 적대 신경망(GAN)을 활용한 고급 딥페이크 기술을 악용하여 전 세계 유권자들에게 영향을 미치고 있습니다.
Telesign의 지수에 따르면, 전 세계 유권자 72%는 AI로 생성된 딥페이크가 선거의 신뢰성을 훼손한다고 우려하고 있으며, 81%의 미국인도 비슷한 걱정을 표현하고 있습니다. 또한, 45%의 미국인이 지난 1년 동안 AI가 생성한 정치 콘텐츠를 접했으며, 17%는 지난 주에 이를 경험했습니다.
AI 및 머신러닝에 대한 신뢰
선거 방해를 위한 AI 남용에 대한 우려에도 불구하고, Telesign의 지수는 긍정적인 점을 보여줍니다: 미국인의 71%가 사이버 공격과 사기를 완화하기 위해 AI와 머신러닝이 사용되면 선거 결과에 대한 신뢰가 높아질 것이라고 응답했습니다.
GAN과 딥페이크의 작동 원리
생성적 적대 신경망(GAN)은 딥페이크 콘텐츠의 사실성을 증가시키는 원동력입니다. 개인의 악용부터 정교한 국가 행위자까지, GAN은 진짜처럼 보이는 비디오와 음성 클론을 생성하는 데 사용됩니다. 딥페이크가 더욱 믿을수록 고객과 유권자의 신뢰가 크게 훼손될 수 있습니다. 이 기술은 피싱 공격과 사회 공학에도 자주 사용되며, 각별한 주의가 필요함을 강조합니다. 뉴욕 타임스는 독자들이 실제 이미지와 AI가 생성한 이미지를 구별할 수 있는 능력을 테스트하는 퀴즈를 제공하기도 하여 GAN 기술의 빠른 발전을 보여줍니다.
GAN은 두 개의 경쟁 신경망으로 구성되어 있습니다: 생성자는 합성 데이터를 생성하고, 판별자는 그 사실성을 평가합니다. 생성자는 출력의 품질과 진위를 개선하는 데 목표를 두고 있으며, 이로 인해 딥페이크는 점점 더 감지하기 어려워지고 사회의 신뢰를 위협하고 있습니다.
딥페이크 세계에서 신뢰 보호하기
Telesign의 CEO Christophe Van de Weyer는 디지털 시대에 신뢰의 중요성을 강조하며, "AI가 발전함에 따라 개인 및 기관 데이터를 보호하기 위해 AI 기반의 사기 방지 솔루션을 우선시해야 합니다."라고 말했습니다. Telesign은 2,200개 이상의 디지털 신호에서 얻은 인사이트를 활용하여 신뢰를 구축하고 거래를 보호하여 매년 수백만 건의 사기를 방지합니다.
Telesign의 지수에 따르면, 실제 디지털 침입의 무려 99%는 계정에 다단계 인증(MFA)이 없을 때 발생합니다. 강력한 MFA 전략을 구현하는 것이 침입을 저지하고 고객 신뢰를 유지하는 데 필수적입니다. 연구에 따르면 많은 전직 직원들이 여전히 민감한 회사 데이터에 접근할 수 있다는 사실이 드러나, 효과적인 신원 및 접근 관리(IAM)의 중요성이 강조됩니다.
결론: 증가하는 딥페이크 속에서 신뢰 보존하기
Telesign의 신뢰 지수는 IAM 및 MFA 관행에서의 신뢰 격차를 해결해야 할 긴급한 필요성을 보여줍니다. GAN 기술이 기만적인 콘텐츠 생성 능력을 지속적으로 향상시키는 만큼, 보안 조치를 강화하는 것이 CISOs에게 반드시 필요합니다. 거의 모든 침입은 신원 유출에서 시작되므로, 기업은 딥페이크의 위협이 커져가고 있는 상황 속에서도 이러한 취약점을 보호하는 데 우선순위를 두어야 합니다.
순위 목록
