젠 AI 혁신 경쟁이 보안 취약점을 드러냈다. IBM과 AWS의 보고서에 따르면, 기업들이 AI 기술을 빠르게 도입함에 따라 보안 위협이 증가하고 있다.

생성 AI 보안을 확보하기 위한 필요 조건

IBM과 Amazon Web Services(AWS)의 최근 연구에 따르면, 생성 AI(Gen AI)의 보안을 확보하는 데 직면한 문제는 간단한 해결책이 없음을 보여줍니다. IBM 비즈니스 가치 연구소가 미국의 주요 경영진을 대상으로 실시한 설문조사에 따르면, AI 프로젝트의 보안은 매우 중요하며, C-suite 리더의 82%가 안전하고 신뢰할 수 있는 AI의 필요성을 강조했습니다.

하지만 의도와 행동 간의 큰 격차가 존재합니다. 현재 조직은 생성 AI 프로젝트의 단 24%만을 안전하게 관리하고 있습니다. PwC 보고서에 따르면, 77%의 CEO가 AI 사이버 보안 위험에 대해 우려하고 있는 상황입니다.

이러한 문제를 해결하기 위해 IBM은 AWS와 협력하여 생성 AI 보안을 강화하고 있습니다. 오늘 IBM은 생성 AI의 보안 조치를 발전시키기 위한 'IBM X-Force Red Testing Service for AI'를 발표했습니다.

혁신과 보안 간의 딜레마 극복하기

기술 보안 확보가 기본적이지만, 많은 조직이 보안보다 혁신을 먼저 고려하고 있습니다. 보고서에 따르면, 69%의 조직이 혁신을 우선시하며 포괄적인 보안 조치를 간과하고 있습니다. IBM Consulting의 사이버 보안 서비스 글로벌 수석 파트너인 딤플 아흘왈리아는 생성 AI로의 혁신 압박으로 인해 보안이 종종 후순위로 밀린다고 언급했습니다.

“클라우드 컴퓨팅 초기와 마찬가지로,” 아흘왈리아는 “많은 사람들이 충분한 보안 계획 없이 생성 AI로 뛰어들고 있어 보안이 결국 타협받고 있습니다.”라고 말했습니다.

효과적인 AI 보안을 위한 가이드라인 설정

생성 AI에 대한 신뢰를 구축하기 위해서는 강력한 거버넌스가 필요합니다. 이는 비즈니스 목표에 부합하는 정책, 프로세스, 통제를 수립하는 것입니다. 81%의 경영진이 생성 AI 보안을 위한 새로운 거버넌스 모델이 필수적이라고 믿고 있습니다.

거버넌스 프레임워크가 수립되면 조직은 AI 파이프라인 전체를 안전하게 관리할 전략을 개발할 수 있습니다. 이는 보안, 기술 및 비즈니스 팀 간의 협력이 필요하며, 기술 파트너의 전문 지식을 활용하여 전략 개발, 교육, 비용 정당화 및 규정 준수를 도와야 합니다.

AI를 위한 IBM X-Force Red Testing Service

거버넌스 외에도 유효성 검증과 테스트는 보안을 보장하는 데 필수적입니다. IBM X-Force Red Testing Service for AI는 AI를 위해 특별히 설계된 IBM의 첫 테스트 서비스입니다. 이 서비스는 침투 테스트, AI 시스템 및 데이터 과학 분야의 전문가들로 구성된 다양한 팀을 모아 IBM 연구소와 Adversarial Robustness Toolbox(ART)에서 얻은 통찰력을 활용합니다.

“레드 팀핑”이라는 용어는 취약점을 식별하기 위해 적대적인 전술을 사용하는 적극적인 보안 접근 방식을 뜻합니다. IBM의 X-Force Red 글로벌 책임자인 크리스 톰슨은 AI 모델의 안전성과 보안을 테스트하는 데 초점이 이동했으며, 기존의 레드 팀 전술인 은신 및 회피는 다소 미진했다고 설명했습니다.

“생성 AI 애플리케이션에 대한 공격의 본질은 전통적인 애플리케이션 보안 위협과 유사하지만, 독특한 변별점과 확장된 공격 표면이 존재합니다.”라고 톰슨은 언급했습니다.

2024년으로 나아가면서 IBM은 진정한 레드 팀핑을 연상시키는 전략의 수렴을 목격하고 있습니다. 이 접근법은 AI 플랫폼, 모델 튜닝 및 훈련을 위한 ML 파이프라인, 생성 AI 애플리케이션의 프로덕션 환경 및 애플리케이션 자체를 포함한 네 가지 주요 분야를 포괄합니다.

“전통적인 레드 팀핑 노력에 부합하여, 우리는 놓친 탐지 기회를 밝혀내고 이러한 혁신적인 AI 솔루션을 겨냥한 잠재적 위협의 탐지 속도를 높이기를 목표로 하고 있습니다.”며 톰슨은 결론지었습니다.