메타의 수석 AI 과학자 얀 르쿤은 AI가 인류에 대한 존재적 위협이 될 수 있다는 두려움을 바탕으로 규제를 주장하는 저명한 AI 리더들에 대해 강한 비판을 했습니다. 이는 이번 주 영국에서 열리는 첫 글로벌 AI 정상 회담을 앞두고 이루어진 발언입니다. 르쿤은 X(구 트위터)에 이 Apocalyptic 시나리오를 근거 없다고 단언했습니다. “당신들이 전파하는 종말론적 두려움은 터무니없다”며 “목표가 명확히 설정된 강력한 AI 시스템은 적절한 안전장치와 함께 안전하고 통제 가능하다. 우리는 이러한 매개변수를 설정하기 때문이다”라고 강조했습니다.
그는 현재의 자기 회귀 언어 모델(LLM)이 이러한 지침이 부족함을 지적하며, 현재의 한계를 미래 AI 시스템에 extrapolate하는 것을 경계했습니다. 르쿤은 OpenAI의 CEO 샘 알트만, 구글 딥마인드의 CEO 데미스 하사비스, 앤트로픽의 CEO 다리오 아모데이가 폐쇄형 AI 모델 유지에 공모하고 있다고 비판하며 “알트만, 하사비스, 아모데이는 AI 산업 내 규제 프레임워크를 확보하기 위한 강도 높은 기업 로비의 선두에 있다”고 주장했습니다.
르쿤은 동료 튜링상 수상자인 MIT 교수 맥스 테그마크와 제프 힌턴, 요슈아 벤지오에게 도전하며 그들이 무의식적으로 공개 AI 연구 개발에 대한 제한을 지지하는 이들에게 무기를 제공하고 있다고 밝혔습니다. 그는 메타의 접근 방식이 오픈 소스 이니셔티브에 초점을 맞추고 있으며, 대표적인 대규모 언어 모델인 라마 2를 예로 들어 공개 AI 연구의 중요성을 강조했습니다.
미국 정부가 오픈 소스 AI가 악의적 행위를 가능하게 할 수 있다고 우려하고 있는 가운데, 르쿤은 AI 모델 접근 제한이 역효과를 낳을 것이라고 주장했습니다. “여러분의 두려움에 기반한 캠페인이 성공한다면 결국 재앙으로 이어질 것입니다: 소수의 기업이 AI를 독점하는 상황입니다. 우리 학계의 대다수는 공개 AI 연구를 지지합니다. 여러분이 제시한 종말론적 시나리오를 지지하는 이들은 극히 드뭅니다.”
그는 오픈 AI 플랫폼이 다양성과 민주적 참여를 촉진하기 위해 표준이 되어야 한다고 주장했습니다. “AI 시스템이 인류의 지식과 문화를 체화하는 미래에서, 플랫폼이 오픈 소스이고 접근 가능해야 합니다. 이 개방성은 인간 경험과 통찰의 전체를 정확히 반영하는 데 필수적입니다.” 그는 “기여는 위키피디아처럼 크라우드 소싱되어야 하며, 이는 오픈 플랫폼 없이는 불가능합니다”라고 덧붙였습니다.
르쿤은 엄격한 규제가 오픈 소스 AI를 저해할 수 있으며, 결론적으로 몇몇 미국 서부와 중국 기업이 AI 플랫폼을 독점하게 될 것이라고 경고했습니다. “이로 인해 민주주의와 문화 다양성에 어떤 영향을 미칠까요? 이것이 저를 진정으로 걱정하게 만듭니다.”
르쿤의 비판적인 발언은 영국 정상 회담이 AI로 인한 위험에 주목할 것이라는 보고 속에 나왔습니다. 이와 관련하여 그는 트위터에서 영국 총리가 “AI 환상의 존재적 치명적 위험(EFRAID)에 걸린 것 같다”고 농담하며, 이 병이 다른 세계 지도자들에게 퍼지지 않기를 바란다고 전했습니다. 정상 회담에 초청받았음에도 그의 발언은 테그마크와의 논쟁을 촉발하며 해당 주제에 대한 추가 논의를 불러일으켰습니다.
이 논의는 ‘AI의 대부’로 불리는 힌턴이 10월 27일에 기업들이 가까운 미래에 기하급수적으로 더 많은 계산 능력을 사용하는 모델을 개발할 계획이라고 경고한 후 더욱 격화되었습니다. 그는 이러한 능력을 규제하는 법이 부재한 것에 대한 우려를 제기했습니다. 이에 르쿤은 힌턴의 주장에 반박하며, 미래 AI 시스템이 기존 아키텍처를 따른다면 높은 수준의 지식을 얻을 수 있지만 여전히 사고력과 창의성, 물리적 세계에 대한 이해가 부족할 것이라고 강조했습니다.
“미래 시스템은 정의된 목표와 안전장치 내에서 사고하고 계획하며 작동할 수 있도록 혁신적인 아키텍처를 채택해야 합니다”라고 그는 주장했습니다. “이러한 목적 지향적인 프레임워크는 우리가 설정한 목표를 통해 안전성과 통제를 보장하며, 지배하려는 과도한 의도를 막을 것입니다.” 그는 고급 AI 시스템이 인류를 지배하려고 할 것이라는 주장을 강력히 반대하며, 그런 믿음이 근본적으로 잘못되었다고 주장했습니다.
순위 목록
