AI 개발의 급속한 진전은 지난 한 해 동안 부인할 수 없을 만큼 가속화되었습니다. 기술의 발달로 인해 AI가 인간 지능을 초월하는 개념이 이제는 공상과학 소설에서 가까운 현실로 바뀌고 있습니다. 튜링상을 수상한 제프리 힌턴은 5월에 AI가 인간 수준의 지능에 도달하는 시기가 2028년으로 예측된다고 밝혔으며, 이는 과거의 50~60년에서 크게 앞당겨진 것입니다. DeepMind의 공동 설립자인 셰인 레그는 2028년까지 인공지능 일반 지능(AGI)을 달성할 확률이 50%에 달한다고 믿고 있습니다. AGI는 AI가 인간 수준의 지능으로 모든 지적 작업을 수행할 수 있는 지점을 의미하며, 현재의 좁은 초점을 넘어섭니다.
이러한 임박한 가능성은 AI의 윤리적 의미와 규제 미래에 관한 활발한 논의를 촉발하였고, 학계의 논의를 국제 정책 장으로 전환시켰습니다. 정부, 산업 지도자, 일반 대중은 인류의 미래에 영향을 미칠 수 있는 중요한 질문들을 고민하고 있습니다. 이러한 우려를 해결하기 위한 규제 발표가 상당히 있었지만, 구체적인 영향과 효과성에 대한 중대한 불확실성이 여전히 존재합니다.
AI의 존재적 위험
AI와 관련된 변화의 범위에 대해 합의된 바는 없지만, AI가 초래할 수 있는 위험에 대한 논의가 이어지고 있습니다. OpenAI CEO 샘 올트먼은 5월 의회 청문회에서 "이 기술이 잘못되면, 아주 잘못될 수 있다"며 정부의 협력이 이와 같은 결과를 막는 데 필요하다고 강조했습니다. 올트먼의 의견은 AI 안전 센터의 입장과 일치하며, 이 센터는 AI로 인한 멸종 위험을 전 세계적으로 우선적으로 완화해야 한다고 주장했습니다.
산업 내 회의론
그러나 일부 산업 지도자들은 극단적인 재앙 시나리오에 대해 회의적인 시각을 보이고 있습니다. Google Brain의 전 수장인 앤드류 응은 AI가 인류 멸종으로 이어질 것이라는 주장에 반대하며, 이는 대형 기술 기업들이 경쟁을 저해할 수 있는 부담스러운 규제를 부과할 수 있음을 암시한다고 비판했습니다. 메타의 수석 AI 과학자이자 튜링상 수상자 영 르쿤은 올트먼과 다른 기술 지도자들이 과장된 우려를 바탕으로 "대규모 기업 로비"에 참여하고 있다고 비난하며, 소수의 대기업에게 유리한 규제가 시행될 것이라고 주장했습니다.
규제 추진
다양한 의견에도 불구하고 규제 움직임은 가속화되고 있습니다. 7월, 백악관은 OpenAI, Anthropic, Alphabet, Meta, Microsoft 등 AI 지도자들의 보안 테스트 프로토콜 개발 약속을 발표했습니다. 9월까지 15개 기업이 이 약속에 서명했습니다.
최근 백악관은 "안전하고 신뢰할 수 있는 인공지능"에 초점을 맞춘 행정 명령을 발표하여 혁신과 감독의 균형을 맞추고자 했습니다. 이 명령은 연방 기관들이 국가 안보 및 헬스케어를 포함한 다양한 분야에 대한 방대한 지침을 따르도록 요구하며, AI 기업들이 안전성 테스트 결과를 공유하도록 하고 있습니다.
AI 정책에 대한 글로벌 이니셔티브
미국의 AI 거버넌스는 더 넓은 국제 대화의 일환으로 이루어지고 있습니다. 최근 G7은 11개의 비구속 AI 원칙을 발표하며, 첨단 AI 시스템을 개발하는 조직들이 "안전하고 신뢰할 수 있는 AI"를 위한 국제 행동 강령을 준수할 것을 촉구했습니다.
영국은 AI 안전 정상 회담을 개최하여 전 세계 이해관계자들이 AI 위험, 특히 최전선 AI 시스템과 관련된 문제를 다루도록 하였습니다. 이 회담의 결과는 미국과 중국을 포함한 28개국 대표들이 서명한 "블렛클리 선언"으로, 고급 AI 시스템이 초래할 수 있는 위험을 경고하고 책임 있는 AI 개발을 다짐했습니다. 비록 이 선언이 구체적인 정책 목표를 설정한 것은 아니지만, 전문가들은 이를 전 세계적인 협력의 유망한 토대로 보고 있습니다.
혁신과 규제의 균형 찾기
전문가들이 제시한 예상 마일스톤에 가까워짐에 따라 AI 개발을 둘러싼 이해관계가 높아지고 있습니다. 미국, G7 국가들 및 그 이상에서 규제 프레임워크를 수립하는 것이 최우선 과제로 떠오르고 있습니다. 이러한 초기 노력들은 위험을 줄이면서 혁신을 촉진하는 것을 목표로 하지만, 효과성과 공정성에 대한 질문은 여전히 남아 있습니다.
AI는 중요한 글로벌 문제로, 앞으로 몇 년은 AI의 긍정적인 잠재력을 활용하면서도 윤리적 기준과 사회적 안전장치를 보장하기 위한 복잡한 과제를 해결하는 데 결정적인 시점이 될 것입니다. 정부, 기업, 학계, 풀뿌리 운동 간의 협력이 AI의 미래를 형성하고, 기술 분야뿐만 아니라 인류 사회의 전체적인 궤적에 영향을 미치기 위해 필수적입니다.
순위 목록
