캘리포니아 주지사 개빈 뉴섬이 최근 SB 1047 법안을 거부했습니다. 이 법안은 주 및 국가 차원에서 AI 개발에 중대한 영향을 미칠 것으로 기대되었으나, 이번 거부로 AI 기업들이 사용자 보호에 대한 의지를 더욱 강화할 수 있는 기회를 얻게 되었습니다.
SB 1047은 AI 기업들이 모델에 대한 “킬 스위치”를 구현하고, 공식적인 안전 프로토콜을 개발하며, 모델 훈련 전에 제3자 안전 감사인을 참여시킬 것을 의무화하는 내용이 포함되어 있었습니다. 또한, 법안은 캘리포니아 검찰총장에게 감사 보고서에 접근할 수 있는 권한과 AI 개발자에 대한 소송 권한을 부여하려 했습니다.
업계 전문가들은 이 법안이 AI 발전에 저해가 될 것이라는 우려를 표명하며, 많은 이들이 뉴섬에게 거부에 감사를 표했습니다. 이들은 이 결정이 향후 오픈 소스 개발을 보호하는 데 도움이 될 것이라고 주장했습니다. 메타의 수석 AI 과학자인 얀 르쿤은 이번 결정을 X(구 Twitter)에서 “합리적”이라고 평가했습니다.
저명한 AI 투자자 마크 안드리센은 뉴섬의 거부를 “캘리포니아의 역동성, 경제 성장, 컴퓨팅의 자유”를 지지하는 것으로 묘사했습니다. 다른 업계 리더들도 비슷한 의견을 피력하며, 소규모 개발자와 모델을 억압하지 않는 규제를 촉구했습니다.
Qlik의 CEO 마이크 카폰은 “핵심 문제는 AI 모델 자체가 아니라 그 응용 방식”이라며, 기술보다는 맥락과 사용 사례에 집중할 필요가 있다고 강조했습니다. 그는 안전하고 윤리적인 사용을 보장하는 규제 frameworks 필요성을 언급했습니다.
Coursera의 공동 창립자인 앤드류 응도 이 거부를 “혁신 지향적”이라며, 오픈 소스 이니셔티브를 보호하는 데 도움이 될 것이라고 찬사했습니다.
그러나 반대 의견도 존재합니다. 조지 메이슨 대학교의 머카투스 센터 AI 및 기술 정책 전문가 딘 볼은 이 거부가 캘리포니아와 미국에 중요한 사안이라고 강조했습니다. 그는 법안의 모델 크기 기준이 구식이며 OpenAI와 같은 최신 모델을 고려하지 못한다고 지적했습니다.
일리노이 대학교의 라브 바르시니 교수는 이 법안이 기술의 하류 사용에 대해 원 개발자에게 불이익을 주는 점을 비판하며, 오픈 소스 방식의 혁신을 가능하게 하는 공동 책임 모델을 제안했습니다.
이번 거부는 AI 개발자들에게 안전 정책과 관행을 강화할 기회를 제공합니다. 도미노 데이터랩의 AI 전략 책임자인 켈 카를슨은 기업들이 AI 위험을 적극적으로 해결하고 AI 생애 주기 전반에 걸쳐 강력한 거버넌스를 통합할 것을 촉구했습니다.
AI 거버넌스 플랫폼 크레도 AI의 설립자인 나브리나 싱은 필요한 규제에 대한 세밀한 이해가 필요하다고 지적하며, 혁신을 유지하면서 시장에서 신뢰와 투명성을 보장하는 것이 중요하다고 강조했습니다.
반면, 모든 반응이 긍정적이지는 않았습니다. 기술 정책 단체들은 이 거부를 비판하며, 책임 있는 기술의 공동 창립자인 니콜 길은 이는 공공 안전을 희생하면서 대기업에 유리하다고 주장했습니다. 그녀는 거부가 주요 기업들이 책임 없이 이익을 얻는 상황을 고착시킨다고 주장했습니다.
AI 정책 연구소는 이 우려를 공유하며, 다니엘 콜슨 전무는 이 결정을 “잘못된 판단과 무모함”으로 비판했습니다.
캘리포니아는 대부분의 AI 기업이 있는 지역으로, 공공의 감독 요구에 부합하는 강력한 규제가 부족한 상황입니다. 현재 생성 AI에 관한 연방 정부의 명확한 규제가 없으며, 가장 가까운 것은 바이든 대통령의 행정명령입니다. 이 명령은 기관의 AI 사용에 대한 프레임워크를 제시하고 기업들에게 모델을 자발적으로 평가받을 것을 권장합니다.
바이든 행정부는 또한 잠재적 위험을 위해 오픈 웨이트 모델을 모니터링할 계획이며, 이는 AI 안전과 규제에 대한 지속적인 논의를 강조합니다.
순위 목록
