얀 르쿤(Meta의 최고 인공지능 과학자)은 수요일, 논란이 되는 캘리포니아의 인공지능 안전 법안 SB 1047을 지지하는 이들을 공개적으로 비판했습니다. 이 발언은 제프리 힌턴이 하루 전에 해당 법안을 지지한 데 대한 반응으로 나왔습니다. 인공지능(PA) 분야의 선구자들 간의 이 의견 차이는 AI 규제의 미래에 대한 커뮤니티 내 심각한 분열을 드러냅니다.
캘리포니아 주의회는 SB 1047을 통과시켰으며, 현재 개빈 뉴섬 주지사의 서명을 기다리고 있습니다. 이 법안은 대규모 AI 모델이 적절한 안전 조치 없이 치명적인 피해를 초래할 경우 개발자에게 책임을 부여하는 내용을 담고 있어 AI 규제를 둘러싼 격렬한 논의를 촉발했습니다. 이 법은 훈련 비용이 최소 1억 달러인 모델과 캘리포니아 내에서 운영되는 모델을 겨냥하고 있습니다.
AI 거물들의 대결: SB 1047을 둘러싼 르쿤 대 힌턴
딥러닝의 핵심 인물인 르쿤은 많은 지지자들이 AI 능력에 대해 “왜곡된 관점”을 가지고 있다고 주장합니다. 그는 X(구 트위터)에서 “이런 왜곡은 그들의 경험 부족, 직면할 도전에 대한 순진함, 그리고 조직의 진보에 대한 과장된 평가에서 비롯된다”고 밝했습니다.
그의 발언은 100명 이상의 현직 및 전직 OpenAI와 Google DeepMind 직원들이 서명한 공개 서한에 대한 힌턴의 지지를 겨냥한 것입니다. 이 서한은 9월 9일 개빈 뉴섬 주지사에게 제출되어, 강력한 AI 모델이 생물학적 무기와 중요한 인프라에 대한 사이버 공격에 악용될 위험이 있다고 경고하며 SB 1047 서명을 촉구했습니다.
르쿤과 힌턴 간의 공개적 갈등은 빠르게 진화하는 기술 규제의 복잡성을 보여줍니다. 지난해 구글을 떠나 AI 위험에 대한 우려를 표명한 힌턴은 AI 시스템이 곧 존재론적 위협을 초래할 것이라고 믿는 사람들을 대변합니다. 반면, 르쿤은 이러한 우려가 시기상조이며 개방적인 연구에 해롭다고 주장합니다.
SB 1047의 내부: AI 규제를 재편하는 논란의 법안
SB 1047을 둘러싼 논쟁은 전통적인 정치적 동맹을 혼란스럽게 하고 있습니다. 주목할 만한 지지자에는 일론 머스크가 포함되지만, 그는 법안의 저자인 스콧 위너 주 상원의원을 비판한 바 있습니다. 반면, 반대자에는 낸시 펠로시 전 하원의장과 샌프란시스코 시장 론던 브리드, 그리고 저명한 기술 기업과 벤처 캐피탈리스트들이 포함되어 있습니다.
AI 기업인 앤소로픽은 법안에 처음에는 반대했으나 수정 후 입장을 바꾸며 법안의 “이점이 비용보다 클 것”이라고 밝혔습니다. 이러한 변화는 법안의 진화 가능성과 입법자와 기술 부문 간의 지속적인 협상을 강조합니다.
비판자들은 SB 1047이 혁신을 저해하고, 소규모 기업과 오픈소스 프로젝트에 불리하게 작용할 것이라고 주장합니다. DeepLearning.AI의 설립자인 앤드류 응은 TIME지에서 이 법안이 “일반 목적 기술 대신 응용 기술을 규제하는 근본적인 실수를 한다”고 주장했습니다.
그러나 지지자들은 규제되지 않은 AI 개발의 잠재적 위험이 이러한 우려보다 훨씬 크다고 주장합니다. 그들은 1억 달러 이상의 예산을 초과하는 모델에 초점을 맞추면 주로 대규모 자원을 보유한 기업들이 타격을 받을 것이라고 믿고 있습니다.
실리콘밸리의 분열: SB 1047이 기술 세상을 나누는 방법
법안에 반대하는 회사의 현직 직원들의 참여는 혁신과 안전 간의 균형에 대한 내부 의견 차이를 드러냅니다.
개빈 뉴섬 주지사가 SB 1047에 서명할지 고민하는 가운데, 그는 캘리포니아의 AI 개발 방향, 나아가 미국 전역의 AI 발전을 형성할 중대한 선택을 앞두고 있습니다. 유럽연합이 AI 법안을 추진하고 있는 가운데, 캘리포니아의 결정은 미국이 보다 적극적이거나 소극적인 연방 AI 규제 접근 방식을 채택하는 데 영향을 미칠 수 있습니다.
르쿤과 힌턴 간의 충돌은 AI 안전 및 규제를 둘러싼 보다 큰 논쟁의 축소판으로 작용합니다. 이는 정책 입안자들이 기술 발전을 저해하지 않으면서 안전 문제를 효과적으로 해결하는 입법을 만드는 데 직면한 도전을 강조합니다.
AI 분야가 급속히 진화함에 따라, 캘리포니아에서 이 legislative 전투의 결과가 고급 인공지능 시스템의 약속과 위험을 사회가 관리하는 방식에 중대한 선례를 남길 수 있습니다. 기술 산업과 정책 입안자, 대중의 시선은 앞으로 몇 주 동안 개빈 뉴섬 주지사의 결정을 주의 깊게 지켜볼 것입니다.
순위 목록
