포레스터의 2024년 5대 사이버 보안 위협: 무기화된 AI 시대를 대비하라

무기화된 AI는 새로운 복잡한 사이버 보안 위협의 주요 촉매제로 떠오르고 있으며, 향후 몇 년간 사이버 보안 환경을 재편할 것으로 보입니다. 악성 공격자부터 정교한 고급지속위협(APT) 팀, 국가 주체에 이르기까지 대형 언어 모델(LLM)을 무기화하는 것이 선호되는 방법론이 되고 있습니다. 적대적 AI는 보안 팀이 마주해야 할 새로운 위협을 제시합니다.

AI 군비 경쟁에서 공격자들이 기술을 정교화함에 따라 사이버 위협은 보다 빠르고 미묘하며 파괴적으로 진화하고 있습니다. 포레스터의 "2024년 사이버 보안 위협 보고서"에 따르면, 보안 팀은 무기화된 AI 공격에 대응하여 권력 균형을 유지하는 데 점점 더 많은 도전에 직면하게 될 것입니다.

AI 에이전트 및 랜섬웨어 서비스

무기화된 AI를 민주화하기 위해 APT 및 국가 주체를 포함한 공격자 그룹은 랜섬웨어 서비스, FraudGPT 스타터 키트, IoT 공격 서비스, 탐지 불가능한 악성코드 공격 실행에 대한 지침을 제공하고 있습니다. CrowdStrike의 2024 글로벌 위협 보고서에 따르면, 악성코드 없는 공격이 2022년 71%에서 2023년 75%로 급증했습니다.

확대되는 사이버 위협 환경

기업들은 공격에 시달리고 있습니다. 포레스터의 최근 조사에 따르면, 보안 및 위험 관리 전문가의 78%가 지난 1년간 조직이 침해를 경험했다고 믿고 있으며, 보고서는 이전 해에 비해 13% 증가한 전문가가 6~10건의 침해를 보고했다고 합니다. 또한, 응답자의 48%는 100만 달러 이상의 비용이 발생한 침해나 사이버 사건을 경험했으며, 많은 사건이 평균 2,183,333달러의 총 비용을 초래했습니다.

2024년 주요 5대 보안 위협

포레스터는 올해 다음과 같은 다섯 가지 주요 보안 위협을 확인했습니다:

1. 서사 공격: 이러한 전술은 주로 선거철에 여론을 조작하여 진실을 왜곡하고 대중의 의견을 흔들기 위해 사용됩니다. 최근 사례로는 미국-멕시코 국경에 대한 정치적 반발을 자극하려는 러시아의 시도가 있습니다.

2. 딥페이크: 저렴한 컴퓨팅 파워와 생성 AI의 발전은 사기, 랜섬웨어, 대중 인식 조작에서 위협이 되고 있습니다. 이러한 위험을 완화하기 위해서는 변경된 오디오와 이미지를 식별할 수 있는 고급 알고리즘이 필요합니다.

3. AI 대응: 기업이 생성 AI 앱을 도입함에 따라 반복적인 프롬프트 공격을 통한 데이터 유출 방어가 중요합니다. PrivateAI 및 ProtectAI와 같은 새로운 기술은 데이터 안전을 보장하면서 생산성을 향상시키기 위해 등장하고 있습니다.

4. AI 소프트웨어 공급망: 공격자들은 악성 프로그램을 삽입하기 위해 소프트웨어 공급망을 겨냥하고 있으며, 91%의 기업이 1년 내에 사건을 보고했습니다. 이러한 시스템의 취약성을 감안할 때 개발 파이프라인 전반에 걸쳐 보안 조치 개선이 필요합니다.

5. 국가 간 첩보 활동: 첩보 활동은 국가 공격의 주요 목표로 남아 있습니다. 외교 문제 위원회는 2023년 그러한 공격의 82%가 정보 수집을 목표로 했다고 보고했습니다. 위성 기술의 최근 취약성은 이 환경에서 강력한 방어의 필요성을 강조합니다.

조직들이 이러한 복합적인 위협을 헤쳐 나가면서 사이버 보안의 발전을 우선시하고 혁신적인 솔루션을 활용하여 무기화된 AI의 미래에 대한 견고한 방어를 보장해야 합니다.