보안 팀, 인공지능 솔루션 고려하나 높은 구독료로 고민 중

보안 팀은 위협 탐지 전략을 강화하기 위해 ChatGPT와 같은 혁신적인 도구를 점점 더 고려하고 있습니다. Gartner의 수석 이사인 Dennis Xu에 따르면, ChatGPT와 같은 생성 AI 도구는 보안 전문가들에게 도움이 될 수 있는 가능성이 있지만, 프리미엄 버전의 비용이 장벽이 될 수 있다고 합니다.

Xu는 런던에서 열린 Gartner 보안 및 리스크 관리 정상 회의에서, GPT-3.5 Turbo 모델로 구동되는 ChatGPT의 무료 기본 버전은 맥락 보존과 코딩 작업에서 어려움을 겪고 있다고 언급했습니다. 따라서 보안 전문가들은 업무에 필요한 기능을 갖추기 위해 월 $20에 ChatGPT Plus 또는 새로운 ChatGPT Enterprise 버전을 선택해야 할 수 있습니다. 조직이 규모를 확장함에 따라 이러한 비용은 사용자 수에 따라 크게 증가할 수 있습니다.

Xu는 Enterprise 버전이 기본 및 Plus 버전보다 데이터 제어 기능이 향상되었다고 강조했지만, 여전히 완전한 배포 준비가 되어 있지 않을 수 있음을 경고했습니다. 그럼에도 불구하고 많은 주요 보안 공급업체들은 생성 AI 기능을 적극적으로 개발하고 있습니다. 예를 들어, Cisco의 Splunk 인수는 데이터 분석 능력을 강화하기 위한 것으로, Privacera는 6월에 생성 AI 솔루션을 출시했습니다. Nvidia는 AI Enterprise 3.0 스위트의 일환으로 깊이 있는 학습 보안 소프트웨어 라이브러리인 Morpheus를 도입했습니다. Xu는 많은 기업들이 ChatGPT의 자연어 인터페이스를 기존 제품에 통합하여 기능을 간소화하는 추세를 보인다고 관찰했습니다.

WormGPT와 FraudGPT와 같은 혁신적인 보안 도구가 "사기꾼을 속이기" 위해 등장했지만, Xu는 이러한 솔루션에 접근하려면 투자도 필요하다고 경고했습니다. 그는 ChatGPT와 같은 널리 사용 가능한 모델이 피싱 이메일 생성과 같은 유사한 기능을 수행할 수 있다고 지적하며, 이는 AI 보안 분야에서 악의적인 행위자들이 종종 우위를 점하는 "군비 경쟁"을 초래하고 있다고 덧붙였습니다. "단 $20로 악의적 사용자는 악성코드를 개발하거나 피싱 이메일을 생성할 수 있는 반면, 방어자들은 유사한 효율성을 달성하기 위해 훨씬 더 높은 비용을 부담해야 한다"고 강조했습니다.

AI 도구의 한계를 이해하는 것은 매우 중요합니다. Xu는 ChatGPT를 광범위한 데이터 세트로 훈련받은 다섯 살 아이에 비유하며, 특정 보안 작업에 유용할 수 있지만 다른 작업에는 적합하지 않을 수 있다고 설명했습니다. "다섯 살 아이에게는 묻지 말아야 할 질문들이 있다"고 농담하며 현실적인 기대와 검증의 중요성을 강조했습니다. 보안 운영(SecOps) 분야에서는 AI가 생성한 통찰력의 정확성을 판단하는 것이 까다로울 수 있습니다.

Xu는 또한 취약점 관리나 공격 표면 관리에서 AI 시스템을 적용할 수 있는 강력한 사례가 부족하다고 지적하며, 구글의 Sec-PaLM이 악성 스크립트를 인식할 수 있는 유일한 확립된 위협 탐지 언어 모델이라고 언급했습니다. 그러나 그는 여전히 초기 단계에 있으며, 아직 벤치마크가 발표되지 않았다고 덧붙였습니다.

AI 도구인 ChatGPT를 도입하려는 보안 팀은 명확한 거버넌스 규칙과 플레이북을 설정하는 것이 중요합니다. “AI 도구를 언제 어떻게 활용할지 이해하고, 명확한 SecOps 사용 사례를 구체화하라”고 조언했습니다. Xu는 시간에 민감한 사례와 민감한 기업 데이터를 포함하는 시나리오는 피하고, 조직이 AI 상호작용에 대한 교육을 제공하고 모니터링 프로토콜을 시행하는 것이 필요하다고 강조했습니다.

AI 드리프트에 대한 인식도 중요합니다. 생성 AI 도구는 동일한 질의에 대해 일관된 응답을 제공하지 않을 수 있습니다. 또한 Xu는 팀들이 기술 자체의 업데이트에 대한 정보를 유지할 것을 권장했습니다. 예를 들어, OpenAI는 최근 GPT-4V를 통해 음성 및 이미지 상호작용을 가능하게 하는 새로운 기능을 ChatGPT에 도입했습니다. Xu는 이러한 가능성에 대해 열정을 보이며, 팀이 시스템과 더욱 직관적으로 상호작용할 수 있는 시나리오를 구상했습니다.

궁극적으로 ChatGPT와 같은 AI 도구는 보안 전문가들이 작업을 간소화하는 데 도움을 줄 수 있지만, 인간의 전문성을 대체할 의도는 아닙니다. Xu는 “이 기술은 여전히 배워야 할 것이 많은 다섯 살 아이”라며 신중하고 효과적인 사용의 중요성을 강조했습니다.