AI 안전 정상 회담: 28개국과 EU, 글로벌 협력 강화를 위한 '블렛클리 선언' 지지

영국은 AI 안전 정상 회담을 시작하며, 국가 정상, AI 선구자, 글로벌 전문가들이 역사적인 농장 부지에 모였습니다. 이번 정상 회담의 목표는 안전한 인공지능(AI) 개발을 위한 국제적인 틀을 마련하는 것입니다. 행사가 시작된 지 몇 시간 만에 영국 정부는 제2차 세계대전 중 현대 컴퓨팅의 발상지인 블렛클리 파크에 경의를 표하며 블렛클리 선언(Bletchley Declaration on AI Safety)을 채택했다고 발표했습니다.

블렛클리 선언은 AI가 안전하게 설계, 개발, 배포 및 활용되도록 하는 일련의 약속을 포함하고 있으며, 인간 중심의 원칙, 신뢰성 및 책임성을 강조합니다. 미국, 중국, 유럽연합을 포함한 28개국의 서명자들은 AI 위험 문제를 다루기 위해 기존의 국제 포럼에서 협력하겠다고 약속했습니다. 이 선언은 국가들이 고유한 법적 프레임워크와 사회적 맥락에 따라 이러한 위험을 분류할 수 있음을 인식하고 있습니다.

또한, 이 협정은 AI 안전 정상 회담을 앞으로 계속 조직하겠다는 약속을 담고 있으며, AI 안전을 위한 포괄적인 글로벌 대화의 필요성을 강조합니다. 리시 수낙 총리는 "세계의 주요 AI 강국들이 AI 위험 이해의 긴급성에 동의하는 landmark achievement"라며 이번 합의의 중요성을 강조했습니다.

기술부 장관인 미셸 도넬란은 이번 정상 회담이 모든 이들이 AI 기술의 혜택을 누릴 수 있도록 보장하는 긴 여정의 시작이라고 덧붙였습니다. 그러나 오리지널 마틴 AI 거버넌스 이니셔티브의 로버트 F. 트라저 감독은 이번 합의가 국가 간 효과적인 협력을 위한 구체성을 결여하고 있다고 지적했습니다.

미국 상무부 장관인 지나 레이몬도가 NIST 내 AI 안전 연구소 설립 계획을 발표하며, AI 위험 평가를 위한 지침, 도구 및 모범 사례를 만드는 데 집중할 것이라고 밝혔습니다. 레이몬도는 또한 투명성과 AI 생성 콘텐츠 워터마킹과 같은 주요 문제에 대해 규제 기관에 기술 지원을 제공할 것이라고 강조하며, 산업계와 학계의 적극적인 참여를 촉구했습니다.

왕 찰스 3세는 사전 녹화된 연설에서 AI 안전 문제를 해결하기 위해 국제 협력이 중요하다고 강조하며, 프라이버시 보호와 생계 보호를 위한 신속하고 통합된 행동을 촉구했습니다. 또한 참석자들이 AI 안전에 대한 지속적인 합의를 위한 기초를 다진 것에 감사를 표했습니다.

AI 전문성을 강화하기 위한 중요한 조치로 영국 정부는 AI 기술 개발을 위한 1억 1800만 파운드(1억 4300만 달러) 규모의 자금을 지원하기로 발표했습니다. 이는 AI 분야의 박사 과정 교육 센터 12곳을 새롭게 설립하여 글로벌 인재를 육성하고 AI의 변혁적 이점을 극대화하기 위한 조치입니다. 이 기금은 영국으로 AI 연구자들을 유치하기 위한 ‘AI 미래 보조금’ 100만 파운드도 포함하고 있습니다.

이틀 동안 진행되는 AI 안전 정상 회담은 고급 AI 모델과 관련된 위험을 논의하고 잠재적 완화 전략을 탐색할 것입니다. 참석자들은 AI 위험에 대한 공통 이해를 도출하기 위한 다양한 논의에 참여하며, 효과적인 안전 평가 및 거버넌스 메커니즘과 같은 주요 주제를 다룰 예정입니다. ‘프론티어 모델’에 대한 주목도 클 것으로 예상되며, 이는 사회에 상당한 위험을 야기할 것이라고 분석되고 있습니다.

이번 정상 회담에는 유엔, 유네스코, 옥스퍼드 및 스탠포드와 같은 영향력 있는 학술 기관의 대표도 포함되어 있으며, OpenAI, Nvidia, Google DeepMind, IBM, Meta와 같은 주요 AI 기업과 혁신적인 스타트업도 참여합니다. 그러나 작은 AI 기업과 스타트업의 대표성이 제한적이라는 우려도 제기되었습니다. Iris.ai의 CTO인 빅터 보테프는 혁신적인 소규모 기업의 목소리가 더 포함되었다면 큰 혜택이 있었을 것이라고 언급했습니다.

정상 회담이 진행됨에 따라, 글로벌 지도자들이 긴급한 AI 안전 문제를 다룰 수 있는 중요한 기회가 될 것이며, AI의 혜택을 활용하면서 그 고유한 위험을 완화하는 협력적 해결책이 등장할 수 있는 환경을 조성할 것입니다.