구글, 마이크로소프트, 오픈AI, 뮌헨 안보 회의 앞두고 AI 약속 발표

사이버 보안 분야에서 "수비수의 딜레마"는 분명한 현실을 강조합니다: 수비수들은 항상 긴장 상태로 침해를 방지하기 위해 끊임없이 노력하는 반면, 공격자는 단 한 번의 기회로도 큰 피해를 줄 수 있습니다. 이 끊임없는 사이클에 맞서기 위해 구글은 사이버 보안 전략에 첨단 AI 도구 통합을 지지하고 있습니다.

AI 사이버 방어 이니셔티브 발표

구글은 2월 16일 뮌헨 안보 회의(MSC) 전에 "AI 사이버 방어 이니셔티브"를 발표하며 AI와 사이버 보안 관련 여러 약속을 함께 공개했습니다. 이는 마이크로소프트와 오픈AI의 유사한 발표에 뒤이은 것으로, 이들 기업은 적대적인 위협을 완화하기 위해 "안전하고 책임 있는" AI 사용의 중요성을 강조했습니다.

세계 각국의 리더들이 MSC에서 국제 보안 정책을 논의하는 가운데, 기술 대기업들은 사이버 보안에 대한 선제적 입장을 보여주고자 합니다. 구글은 블로그에 "AI 혁명은 이미 시작되었습니다. 우리는 AI가 세대적인 보안 문제를 해결하고 신뢰할 수 있는 디지털 세계를 만드는 데 기여할 잠재력에 대해 기대하고 있습니다"고 밝혔습니다.

AI 기반 보안에 대한 약속

뮌헨 회의에서는 450명 이상의 의사 결정자들이 기술, 대서양의 보안, 글로벌 거버넌스 등 다양한 주제를 탐구할 예정입니다. MSC는 기술 규제 및 포괄적인 보안과 협력에 대한 대화를 촉진하는 것을 목표로 합니다. AI가 리더와 규제자들에게 중요한 관심사로 떠오르면서 구글은 "AI 준비 인프라"에 투자하고, 새로운 방어 도구를 제공하며, AI 보안 교육 이니셔티브를 시작할 것을 약속했습니다.

주요 발표 중 하나는 미국, 영국, EU의 17개 스타트업으로 구성된 "사이버 보안을 위한 AI" 코호트의 결성입니다. 이 이니셔티브는 국제화 전략, AI 도구, 효과적인 구현에 필요한 기술로 대서양 사이버 보안 생태계를 강화하는 것을 목표로 합니다.

구글의 추가 이니셔티브는 다음과 같습니다:

- 유럽의 소외된 지역 사이버 보안 전문가 교육 강화의 일환으로 1,500만 달러 규모의 Google.org 사이버 보안 세미나 프로그램 확대.

- 파일 유형 식별을 위한 오픈 소스 AI 도구 Magika를 출시하여 맬웨어 탐지 정확도를 30% 개선하고 VBA, JavaScript와 같은 복잡한 콘텐츠 유형에서 최대 95% 높인 정밀도를 이끌어냄.

- 시카고 대학교, 카네기 멜론 대학교, 스탠포드 대학교와 같은 기관에 200만 달러의 연구 보조금을 제공하여 코드 검증을 강화하고 더 견고한 위협 탐지 알고리즘을 개발.

또한 구글은 6월에 도입한 Secure AI Framework의 중요성을 강조하며 조직들이 AI 보안 모범 사례를 구현하는 데 도움을 주고 있습니다. 구글은 "AI 보안 기술은 설계와 기본적으로 안전해야 한다"고 주장하며, 악용을 방지하면서 AI의 이점을 최대화하기 위한 타겟 투자의 필요성을 강조합니다.

악의적인 AI 사용에 대한 협력 노력

마이크로소프트와 오픈AI는 악의적인 행위자들이 생산성 도구로 AI를 사용하는 증가 추세에 대해 공동 발표했습니다. 오픈AI는 중국, 이란, 북한, 러시아와 같은 국가의 지원을 받는 위협 그룹과 연결된 계정에 대한 접근을 차단하고, 이들이 코드 디버깅, 피싱 콘텐츠 생성, 정보 수집 등의 전술을 사용하고 있음을 언급했습니다.

두 기업은 AI 기술의 책임 있는 사용을 보장하기 위해 헌신하고 있으며, 마이크로소프트는 악의적인 사용을 식별하고 이해관계자와 협력하며 대중에게 AI 남용에 대해 알리는 원칙을 설명했습니다.

상승하는 사이버 위협과 AI의 역할

구글의 위협 인텔리전스 팀은 공격자들의 전문화와 지정학적 맥락에서 공격 역량 우선시로 인해 사이버 위협이 증가하고 있다고 보고했습니다. 중국, 러시아, 북한, 이란 등 국가는 공격 및 방어 목적으로 AI에 대규모 투자를 하고 있어 다양한 분야에 중대한 위험을 초래하고 있습니다.

공격자들은 AI를 사용하여 사회 공학 기법을 강화하고 정교한 피싱 방식과 정보 조작을 수행하고 있습니다. 구글은 AI 기술의 발전이 악의적인 작전을 크게 강화할 수 있다고 경고합니다. 반면, AI는 방어자에게 취약성 탐지, 사고 대응, 맬웨어 분석에서 상당한 이점을 제공합니다. AI는 위협 인텔리전스 프로세스를 간소화하고, 맬웨어를 분류하며, 위협을 우선순위에 따라 정리하는 데 도움을 주어 사이버 보안 환경을 근본적으로 변화시킵니다.

구글의 탐지 팀은 생성적 AI를 활용하여 사고 요약을 개선, 효율성과 출력 품질을 향상시켰습니다. 또한, 고급 처리 모델을 통해 스팸 탐지율이 40% 증가하고 코드 검증 과정에서 버그가 15% 감소했습니다. 최종적으로 구글 연구진은 "AI는 수비수의 딜레마를 해소할 중요한 기회를 제공하며, 사이버 공간에서 수비수에게 유리한 균형을 이동시킬 수 있습니다"라고 믿고 있습니다.