세계 각국의 지도자들이 인공지능(AI)의 위험과 기회에 대한 대응 의지를 강조하고 있습니다. 오늘, 미국, EU, 영국, 캐나다, 프랑스, 독일, 이탈리아, 일본으로 구성된 주요 산업 국가 그룹인 7개국(G7)은 고급 AI 시스템 개발을 위한 국제 행동 강령을 발표했습니다. 이 자발적인 프레임워크는 5월에 도입된 "히로시마 AI 프로세스"의 연장선으로, 안전하고 신뢰할 수 있는 AI 개발을 촉진하는 것을 목표로 합니다.
동시에 미국의 조 바이든 대통령은 “안전하고 신뢰할 수 있는 인공지능”에 관한 행정명령을 발행했으며, 유럽연합은 EU AI 법안을 최종 조정 중입니다. 또한, 유엔 총장은 정부, 기술, 학계의 30명 이상의 리더들로 구성된 새로운 인공지능 자문위원회를 구성하여 AI의 글로벌 거버넌스를 지원하고 있습니다.
G7은 “우리는 고급 AI 시스템, 특히 기반 모델과 생성적 AI의 혁신적인 기회와 변화 가능성을 강조합니다. 그러나 우리는 개인, 사회, 법치주의 및 민주적 가치에 대한 우리의 공동 약속을 보호하기 위해 위험을 관리할 필요성을 인식합니다. 인류를 중심에 두는 것이 중요합니다.”라고 밝혔습니다.
이러한 도전과제 해결을 위해 G7 지도자들은 AI의 “포용적 거버넌스”를 촉구하고 있습니다.
AI의 책임 있는 개발과 배치를 위한 11가지 프레임워크
G7은 AI 시스템의 책임 있는 개발과 배치를 안내하기 위한 11가지 프레임워크를 발표했습니다. 이들은 조직들이 코드에 따라 행동할 것을 촉구하며, 각 관할권이 고유한 구현 방식을 채택할 수 있음을 인식하고 있습니다.
11가지 사항은 다음과 같습니다:
1. 위험 식별 및 완화: 개발 중 위험을 식별, 평가 및 완화하는 조치를 시행하여 시스템의 신뢰성과 안전성을 확보합니다.
2. 배치 후 모니터링: 지속적인 모니터링과 투명한 보고를 통해 취약성과 오용을 식별하고 해결합니다.
3. 투명성 보고: 고급 AI 시스템의 능력, 한계 및 적절한 사용을 공개하고 강력한 문서화로 뒷받침합니다.
4. 책임 있는 정보 공유: 보안 및 안전 위험과 관련된 평가 보고서 및 정보를 공개적으로 공유합니다.
5. 거버넌스 정책: 개인 데이터와 출력에 관한 AI 거버넌스 및 위험 관리 전략을 개발하고 공개합니다.
6. 보안 통제: 물리적 보안, 사이버 보안 및 내부 위협으로부터 보호하기 위한 투자를 합니다.
7. 콘텐츠 인증: 콘텐츠 인증을 위한 신뢰할 수 있는 방법을 시행하고 사용자에게 AI 시스템과의 상호작용을 명확히 고지합니다.
8. 사회적 위험 완화: 사회적, 안전 및 보안 위험을 줄이는 연구를 우선시합니다.
9. 글로벌 과제 해결: AI 개발을 기후 변화, 건강 위기, 교육과 같은 긴급 글로벌 문제를 해결하는 데 초점을 맞추고 디지털 리터러시를 촉진합니다.
10. 국제 기준: 국제 기술 기준과 모범 사례의 제정 및 채택을 촉진합니다.
11. 데이터 입력 보호: 개인 데이터와 지적 재산에 대한 강력한 보호 조치를 마련하고 학습 데이터셋에 대한 투명성을 강조합니다.
역동적인 환경을 위한 살아 있는 문서
G7은 AI 배치에서 법치, 인권, 공정성 및 민주적 가치를 유지하는 것의 중요성을 강조했습니다. 고급 시스템은 민주적 원칙을 저해하거나 안전 및 권리에 중대한 위험을 초래해서는 안 됩니다.
이 행동 강령은 정부, 학계, 산업으로부터 피드백을 반영하여 지속적으로 발전할 예정이며, 이러한 원칙은 "소모적인" 것이 아니며 살아 있는 문서로 분류될 것입니다. G7 지도자들은 AI의 이점을 극대화하면서 발전도상국이 디지털 격차를 해소하고 포용을 증진할 수 있도록 위험을 완화하고자 합니다.
글로벌 리더들의 지지
이 행동 강령은 유럽연합 집행위원회 가치 및 투명성 부위원장인 베라 요우로바를 포함한 다른 글로벌 비서관들에게도 지지를 받았습니다. 요우로바는 “신뢰할 수 있고 윤리적이며 안전하고 보안적인 생성적 인공지능이 필요합니다. 이 행동 강령은 EU와 우리의 동맹국들이 AI가 이점을 제공하면서 내재된 위험에 대응할 수 있도록 할 것입니다.”라고 밝혔습니다. 유럽연합 집행위원장인 우르줄라 폰 데어 라이엔도 AI 개발자들이 행동 강령을 빠르게 서명하고 구현할 것을 촉구하며, AI가 시민과 경제에 제공할 수 있는 중요한 이점을 강조했습니다.
순위 목록
