AI 공격: 선거, 재정, 인프라에 대한 증가하는 위협
공격자들은 AI를 악용하여 선거를 방해하고, 거래소를 사취하며, 중요한 인프라를 공격하고 있습니다. 이러한 위협은 국가 주도자와 사이버 범죄 집단에서 발생하며, 이들은 AI를 통해 정교한 신분 기반 공격을 수행하고 불법 활동을 통해 자금을 조달합니다.
AI 기반 신분 공격의 증가
공격자들은 피싱, 사회 공학, 비밀번호 및 특권 접근 자격 증명을 탈취하여 재정 기관, 소매업체, 전자상거래 상인을 대상으로 합성 신원 사기를 저지르고 있습니다. 신원 도용이 주요 수익원인 국가 주도 공격자들은 AI 사용을 강화하며, 합성 신원 사기가 지난해에 비해 14.2% 증가했습니다. 재정 기관은 미국 자동차 대출, 은행 신용 카드, 소매 신용 카드 및 무담보 개인 대출과 관련하여 우려되는 합성 신원 사기로 인해 31억 달러의 잠재적 손실에 직면해 있습니다. TransUnion은 지난해 신규 생성된 글로벌 디지털 계정 거의 14%가 의심되는 디지털 사기를 포함하고 있으며, 소매, 여행, 여가 및 비디오 게임 산업이 가장 큰 피해를 입고 있다고 보고합니다.
딥페이크: AI 공격의 최전선
딥페이크는 AI 기반 신원 위협의 최전선으로, 지난해 사용량이 3,000% 급증했습니다. 이 추세는 2024년에 50-60% 증가할 것으로 예상되며, 전 세계에서 14만에서 15만 건의 딥페이크 사건이 발생할 수 있습니다. 지난해 합성 신원 사기 사건의 거의 20%가 딥페이크와 관련이 있으며, 이는 무기화된 AI의 가장 빠르게 성장하는 범주입니다. 공격자들은 계속해서 기술을 개선하고 고급 AI 응용 프로그램 및 멀티미디어 편집 기법을 활용하고 있습니다. 딥페이크 관련 신원 사기 시도가 올해에 5만 건에 이를 것으로 예상됩니다.
국토안보부는 딥페이크 신원의 증가하는 위협을 강조하며 경각심을 가질 필요성을 알리는 가이드를 발표했습니다.
AI 위협에 대한 조직 준비 상태
AI 기반 신원 공격의 경고 신호에도 불구하고 많은 조직은 여전히 준비가 부족합니다. Ivanti의 2024 사이버 보안 보고서에 따르면, 3분의 1의 조직이 생성 AI 위협에 대응하기 위한 문서화된 전략이 없다고 합니다. 74%의 조직이 AI 강화 위협의 영향을 경험하고 있으며, 89%는 이러한 위협이 증가할 것으로 예상합니다. 대부분의 CISO, CIO 및 IT 리더들은 조직의 준비 상태에 대한 우려를 표명하며, 60%는 피싱, 악성 소프트웨어, 랜섬웨어, API 취약성 등 진화하는 위협에 대한 방어가 부족하다고 우려합니다.
AI 기반 위협 대응 예산 책정
Ping Identity의 보고서 "다음 주요 디지털 위협에 맞서기"는 AI 기반 신원 공격에 대한 광범위한 준비 부족을 강조합니다. 보고서 공동 저자 Jamie Smith는 "AI 기반 사이버 위협과 신원 공격이 곧 폭발할 것"이라며, 40% 이상의 기업이 내년에 사기가 크게 증가할 것으로 예상한다고 말합니다. 이에 대응하여 95%의 조직이 이러한 새로운 위협에 맞서기 위해 예산을 확대하고 있습니다.
하지만 신원 공격이 급증하고 있음에도 불구하고 많은 조직은 최신 보호 기술을 충분히 활용하지 못하고 있습니다. 단지 49%만이 일회성 패스워드 인증을 사용하고, 45%는 2단계 또는 다요소 인증(MFA)을 채택하고 있습니다. CISO들은 MFA가 유효한 솔루션이라고 언급하며, 특히 광범위한 제로 트러스트 프레임워크 내에서 그 유용성을 강조합니다. 또한, 44%의 보안 리더가 생체 인식 또는 행동 생체 인식을 시행하고 있습니다.
보안 강화와 사용자 경험 향상
조직은 사용자 경험을 해치지 않으면서 신원 및 접근 관리(IAM) 및 특권 접근 관리(PAM) 시스템을 강화해야 하는 과제에 직면해 있습니다. 전문가들은 효과적인 사이버 보안 조치는 사용자가 원활하게 이용할 수 있어야 한다고 утверж합니다.
비밀번호 없는 인증 기술로의 전환이 가속화되고 있으며, 이는 AI 기반 공격을 방지하고 자격 증명 도용을 더 어렵게 만드려는 목표를 가지고 있습니다. Gartner는 내년까지 50%의 인력과 20%의 고객 인증 거래가 비밀번호 없이 이루어질 것으로 예측하고 있습니다. API, 생체 인식, 비밀번호 없는 기술이 강력한 대안으로 부상하고 있습니다.
주요 비밀번호 없는 인증 솔루션으로는 Microsoft Azure Active Directory, OneLogin, Thales SafeNet Trusted Access, Windows Hello for Business 등이 있습니다. 주목할 만한 것은 Ivanti의 Zero Sign-On(ZSO)로, 비밀번호 없는 인증과 제로 트러스트 프레임워크를 결합하여 사용자 경험을 향상시키고 비밀번호를 제거하며 생체 인식을 통합합니다.
강화된 보안을 위한 API 통합
검증 프로세스를 간소화하기 위해 애플리케이션 프로그래밍 인터페이스(API)를 활용하는 것도 중요합니다. Telesign은 검증 채널을 통합한 AI 기반 API를 개발하고 있으며, Verify API는 빠르게 발전하여 일곱 개의 주요 사용자 검증 채널을 통합하여 보안을 강화하고 사기를 실시간으로 탐지 및 평가합니다.
Telesign의 CEO인 Christophe Van de Weyer는 고객 신원을 검증하는 온보딩 프로세스의 중요성을 강조하여 효과적인 사기 방지를 촉구합니다. Verify API는 AI와 머신 러닝을 활용하여 신원 보호를 강화하며, 기업들이 가장 안전하고 사용자 친화적인 검증 채널을 원활하게 선택할 수 있도록 합니다.
사안의 본질: 신원 소유권
디지털 신원을 통제하는 것은 조직에 매우 중요합니다. 도난당한 자격 증명과 합성 신원은 국가 주도자와 사이버 범죄 조직의 운영 자금을 지원합니다. 딥페이크가 더욱 확산됨에 따라, 조직은 AI 기반 위협의 진화하는 전술에 희생되지 않도록 신원 관리 프로세스의 취약점을 파악해야 합니다.
순위 목록
