딥페이크의 위험 증가: 기업에 대한 긴급한 위협
딥페이크 기술은 적대적인 AI의 가장 강력한 형태 중 하나로 급속히 떠오르며, 2023년의 손실이 123억 달러에서 2027년까지 400억 달러로 치솟을 것으로 예상되고 있습니다. 이는 연평균 성장률 32%에 해당합니다. 딜로이트에 따르면, 딥페이크의 확산은 특히 은행 및 금융 서비스 부문에서 심각한 우려를 초래하고 있습니다.
지난 한 해 동안 딥페이크는 놀라운 3000% 증가했으며, 2024년에는 전 세계에서 14만에서 15만 건의 사건이 발생할 것으로 예상되며, 이로 인해 사건 발생률이 50%에서 60% 증가할 것으로 보입니다. 최신 세대의 생성 AI 애플리케이션은 공격자들이 신뢰할 수 있는 딥페이크 비디오, 모방된 목소리, 위조 문서를 저렴하고 신속하게 생성할 수 있게 해줍니다. 핀드롭 2024 음성 인텔리전스 및 보안 보고서는 연락 센터를 목표로 하는 딥페이크 사기가 기업에 연간 약 50억 달러의 비용을 초래한다고 추정하며, 이는 은행과 금융 부문에 대한 기술의 위협을 강화합니다.
블룸버그는 다크 웹에서 스캠 소프트웨어가 20달러에서 수천 달러에 이르는 가격에 판매되고 있는 활발한 지하 시장에 대해 보도했습니다. 2023년 Sumsub의 신원 사기 보고서를 기반으로 한 인포그래픽은 전 세계적으로 AI 기반 사기가 급증하고 있음을 보여주고 있습니다.
기업 준비 태세: 증가하는 우려
적대적인 AI의 진화는 예기치 않은 공격 경로를 도입하여 보안 환경을 복잡하게 만듭니다. 특히 핵심 경영진을 목표로 하는 딥페이크의 위험을 방어할 전략이 없는 기업이 3분의 1에 달하는 것은 alarming합니다. 아이반티 2024 사이버 보안 보고서에 따르면, 조사에 응답한 기업의 30%는 적대적인 AI 공격을 식별하거나 방어할 계획이 없습니다.
보고서는 설문에 응답한 기업의 74%가 이미 AI 기반 위협을 경험하고 있으며, 89%는 이러한 위협이 이제 시작에 불과하다고 믿고 있다고 밝혔습니다. 또한, 60%의 CISO, CIO, IT 리더는 이러한 공격에 대비할 준비가 되어 있지 않다고 느끼고 있습니다. 딥페이크를 피싱 및 랜섬웨어와 같은 더 광범위한 전략의 일부로 사용하는 것이 점차 일반화되고 있으며, 이는 생성 AI에 의해 가속화된 더욱 정교한 위협 시나리오로의 전환을 나타냅니다.
CEO를 목표로 한 공격자들의 새로운 전략
사이버 보안 전문가들은 딥페이크가 쉽게 탐지할 수 있는 수준에서 현실감 있는 모방으로 진화하고 있으며, 특히 CEO를 겨냥하고 있는 우려스러운 추세를 보고하고 있습니다. 산업 전문가들은 공격적인 국가 주체와 대형 사이버 범죄 조직이 생성적 적대 신경망(GAN) 기술에 자원을 투자하고 있다고 지적합니다. 이러한 공격의 정교함은 세계 최대 광고회사의 CEO를 대상으로 한 주목할 만한 사건을 통해 드러났습니다.
최근 월스트리트저널과의 대화에서 크라우드스트라이크 CEO 조지 커츠는 AI의 발전이 사이버 보안 방어를 강화하는 동시에 공격자의 능력을 증대시키고 있다고 언급했습니다. 그는 현재의 딥페이크 기술이 매우 발전하여 진위 판별이 어렵다고 밝혔습니다. “현재의 딥페이크 기술은 너무 뛰어나다”고 강조하며 국가 차원에서 추진되는 허위 정보 캠페인의 위험성을 언급했습니다.
크라우드스트라이크의 인텔리전스 팀은 딥페이크가 설득력 있게 작동하는 요소를 연구하며 기술의 방향성을 이해하여 최대의 시청자 영향력을 추구하고 있습니다. 커츠는 정보의 확산을 연못에 돌이 던져지는 것에 비유하며, 중요한 주제가 증폭되어 공공 인식에 영향을 미친다고 설명했습니다.
기업을 위한 행동 촉구
기업은 적대적인 AI에 대한 전투에서 패할 위험이 있으며, 이는 공격자들이 딥페이크 공격을 위해 AI를 신속하게 진화시키고 있음을 인지하지 못할 경우 더욱 심각해집니다. 딥페이크가 점차 일반화됨에 따라, 국토안보부는 “딥페이크 신원의 증가하는 위협”이라는 가이드를 발행하여 기업이 방어를 강화해야 할 긴급성을 강조하고 있습니다.
조직은 딥페이크 기술이 초래하는 위험을 완화하고 지속적인 AI 무기 경쟁에서 앞서 나가기 위한 적극적인 전략을 개발하는 것이 중요합니다.
순위 목록
