사이버범죄자들은 기업들보다 훨씬 유연하게 움직이며, 경영진의 승인, 테스트 및 규제 검사를 필요로 하지 않습니다. 이러한 이유로 많은 조직이 불리한 입장에 놓여 있으며, 마치 버터 나이프를 들고 총격전으로 나서는 것과 같습니다. 하지만, 생성적 AI는 이 균형을 상당히 변화시킬 수 있습니다. 이는 마이크로소프트의 부CISO이자 기업 부사장인 켈리 비셀(Kelly Bissell)이 애틀랜타에서 열린 AI 임팩트 투어에서 언급했습니다.
“우리가 공동체로써 이루고자 하는 바는 AI의 신속하고 안전한 채택을 통해 공격자들에 대한 우위를 확보하고 뒤처지지 않는 것입니다.”라고 비셀은 말했습니다.
생성적 AI로 보안 강화하기
보안은 실용 AI의 가장 매력적인 응용 분야 중 하나입니다. 마이크로소프트 보안용 Copilot의 초기 사용자는 사건 대응에서의 효과를 경험했습니다. 특히 공격 완화와 보안 운영 센터(SOC) 강화에 있어 비용 절감 효과가 놀라웠습니다.
매일 78조 개 이상의 보안 신호를 처리하는 방대한 데이터와 위협 인텔리전스를 바탕으로, 마이크로소프트 Copilot은 대형 언어 모델을 활용하여 맞춤형 통찰력과 실행 가능한 지침을 제공합니다. 이 기술은 미세한 공격의 탐지를 간소화하고 응답 시간을 대폭 단축시켜 보안팀이 사이버범죄자들보다 한 발 앞서 나갈 수 있도록 돕습니다. 사용이 간편한 인터페이스 덕분에 분석가는 자연어 쿼리를 던지고 즉각적인 응답을 받을 수 있습니다.
이 도구들은 새로운 주니어 SOC 분석가들이 첫날부터 효과적으로 활동할 수 있도록 필요한 스킬을 제공합니다. 스크립팅 또는 사건 분석에 걸리는 시간은 며칠 또는 몇 시간에서 몇 분으로 줄어듭니다.
“제가 일하는 제약 회사는 보안팀에서 연간 5천만 달러를 절감하면서 보안을 강화할 것으로 기대하고 있습니다.”라고 비셀은 밝혔습니다. “이 두 가지 이점—향상된 보안과 비용 절감—은 우리가 함께 일하는 회사의 절반 이상에서 공통된 주제입니다.”
초기 채택자들은 또한 교육과 투명성의 중요성을 인식하고 있습니다. AI 도구는 신중하게 사용해야 하며, 비셀은 고객이 AI 작업을 모니터링할 수 있도록 로깅 기능을 통합했다고 강조합니다. 또한, 결과 검증을 위한 레드 팀 도구가 추가되어 “믿되 확인하라”는 접근 방식이 장려되었습니다. 이 추가된 투명성은 플랫폼의 효과성과 고객의 신뢰를 한층 강화했습니다.
생성적 AI 보안의 실제 적용
비셀은 제약 산업을 Copilot for Security와 같은 도구들이 효과적인 응용을 만들어낼 수 있는 주요 사례로 강조했습니다. 초기의 회의론은 AI 역량에 대한 탐험으로 이어졌습니다.
하나의 중요한 이점은 임상 시험 중 사기를 줄이는 것입니다. 악의적 행위자들은 FDA 검사 통과 여부에 재정적 이해관계를 가지므로, 위조 결과 및 내부 거래와 같은 위험을 초래합니다. 제조 시설 및 실험실의 운영 기술에 AI 기반 보안을 적용하면, 장비의 고장 징후를 모니터링하고 잠재적인 변조를 탐지할 수 있습니다. 이러한 통합 접근법은 약물 및 폴리머 연구를 강화하고 있습니다.
“그들은 더 나은 제품을 생산하고 약물의 시장 출시 과정을 가속화할 수 있습니다. 이는 수십억 달러의 가치가 있습니다.”라고 비셀은 강조했습니다. “특허가 겨우 10년 동안 지속되기 때문에, 더 빨리 시장에 진입할 수 있는 것은 기업이 공개되기 전에 시장 점유율을 유지할 수 있게 합니다.”
SOC의 전환은 사이버범죄자들이 조직이 마주하는 규제 장벽 없이 생성적 AI를 활용하기 시작함에 따라 가장 영향력 있는 사례가 될 수 있습니다.
“우리는 공격자들 사이에서 오픈소스 AI의 사용이 급격히 증가하는 것을 목격했습니다. 이제 그들은 더 쉽게 모델을 구축할 수 있습니다.”라고 비셀은 설명했습니다. “더 이상 고급 해킹 기술이 없어도 맬웨어를 제작할 수 있습니다. 개발자들이 GitHub과 같은 플랫폼을 통해 신속하게 코드를 생성할 수 있는 것처럼, 사이버범죄자들도 할 수 있습니다. 공격자의 수는 극적으로 증가할 것입니다. 이 경쟁은 이제 시작에 불과합니다.”