캘리포니아 주지사 개빈 뉴섬은 인간에게 "중대한 해"를 초래할 수 있는 인공지능(AI)의 오남용을 방지하기 위해 제정된 법안 SB 1047에 거부권을 행사했습니다. 캘리포니아 주 하원은 8월 28일 41-9로 이 법안을 통과시켰지만, 상공회의소와 같은 조직들은 주지사에게 거부를 촉구했습니다.
뉴섬 주지사는 9월 29일 거부권 메시지에서 이 법안이 "좋은 의도"를 가지고 있지만, 고위험 환경에서의 AI 배치는 물론 민감한 데이터 처리와 같은 중요한 요소를 고려하지 않았음을 지적했습니다. 대신 그는 대규모 시스템 내에서 기본적인 AI 기능에 대해서도 엄격한 기준을 부과한다고 언급했습니다.
SB 1047은 AI 모델의 개발자들이 재난을 예방하기 위한 안전 프로토콜을 구현하도록 책임을 지우고자 했습니다. 요구되는 안전 조치에는 엄격한 테스트, 외부 리스크 평가, 그리고 비상 정지 기능 등이 포함되어 있으며, 초기 위반에 대해서는 1천만 달러의 벌금이 부과되고, 이후 위반에서는 3천만 달러로 증가했습니다. 하지만 수정된 법안은 재난이 발생하지 않는 한 주 검찰총장이 AI 회사에 대해 과실로 소송을 제기할 수 있는 권한을 삭제하여 법적 행위를 제한했습니다.
이 법안은 최소 운영 비용이 1억 달러, 훈련 성능이 10^26 FLOPS인 AI 모델을 규제하려 했으며, 1천만 달러 이상의 상당한 제3자 투자를 받은 프로젝트도 영향을 받을 수 있었습니다. 이러한 기준을 충족하는 캘리포니아 내 모든 회사는 법안의 조건을 준수해야 했습니다.
뉴섬 주지사는 대규모 AI 시스템에 대한 법안의 협소한 초점에 대해 우려를 표명하며, "이 접근 방식이 기술이 제기하는 실제 위협으로부터 공공을 보호하는 최선의 방법이라고 생각하지 않는다"고 말했습니다. 그는 이 같은 강조가 작은 특화 모델이 유사하거나 더 큰 위험을 초래할 가능성을 간과해 잘못된 안전감을 줄 수 있다고 경고했습니다.
SB 1047의 이전 버전은 AI 기술을 규제하기 위한 최전선 모델 부서를 설립할 것을 제안했으나, 이후 법안은 정부 운영국 내 최전선 모델 위원회로 감독 권한이 변경되어 주지사와 입법부가 지명한 위원들이 참여하게 되었습니다.
캘리포니아 주 상원의원 스콧 와이너가 발의한 SB 1047은 기술 커뮤니티로부터 큰 반대를 받았습니다. 저명한 AI 연구자 제프리 힌턴과 요슈아 벵기오가 이 initiative를 지지하며 AI의 위험성에 대해 우려를 나타냈습니다. 와이너는 "나쁜 일이 발생할 때까지 기다리지 말자"고 강조했습니다.
뉴섬 주지사는 거부권 메시지에서 주의 안전에 대한 헌신을 재확인하며, "캘리포니아는 책임을 포기하지 않을 것이다. 안전 프로토콜이 채택되어야 하며, 불법 행위에 대한 명확한 결과는 집행 가능해야 한다"고 주장했습니다. 그는 AI 발전에 맞춰 진화하는 규제 체계의 필요성을 강조했습니다.
이 법안은 페이페이 리 연구원과 메타의 수석 AI 과학자인 얀 르쿤을 포함한 기술 리더들과 조직들로부터 상당한 반발을 받았으며, 이들은 법안이 AI 혁신을 저해할 수 있다고 비판했습니다. 아마존, 애플, 구글과 같은 주요 기업을 대표하는 기술 무역 단체들은 SB 1047이 캘리포니아의 기술 부문에서 새로운 발전을 저해할 수 있다고 경고했습니다. 또한, 벤처 캐피털 회사인 안드레센 호로위츠와 여러 스타트업도 AI 혁신가들에게 재정적 영향을 우려하며, 8월 15일 캘리포니아의 예산위원회를 통과한 SB 1047의 수정안에 대해 논의했습니다.
순위 목록
