加州州長紐索（Gavin Newsom）否決了旨在減少人工智能災害的法案SB 1047

Home AI新聞加州州長紐索（Gavin Newsom）否決了旨在減少人工智能災害的法案SB 1047

加州州長蓋文·紐瑟姆已否決SB 1047法案，該法案旨在防止人工智慧（AI）的濫用，避免對人類造成“重大傷害”。加州眾議院於8月28日以41票對9票通過該立法，但商會等組織敦促州長拒絕。

在9月29日的否決信中，紐瑟姆承認該法案“出發點良好”，但未考慮部署AI於高風險環境及處理敏感數據等關鍵因素。他指出，該法案對大型系統內即使是基本的AI功能也施加過於嚴格的標準。

SB 1047旨在要求AI模型開發者承擔安全協議的責任，以避免災難性後果。必要的安全措施包括嚴格測試、外部風險評估和“緊急停止”功能，初次違規罰款從1000萬美元起，屢次違規則升至3000萬美元。然而，修訂版刪除州檢察長在未發生災難事件時起訴AI公司的能力，將潛在法律行動限制為僅可在此類事件中尋求禁令救濟。

該立法旨在監管運行成本至少為1億美元、訓練能力達到10^26 FLOPS的AI模型，同時也影響到第三方投資超過1000萬美元的項目。若任何公司在加州運營，則需遵守該法案的條款，若符合這些標準。

紐瑟姆對該法案狹隘的聚焦於大型AI系統表示擔憂，他指出：“我不認為這是保護公眾免受技術威脅的最佳方式。”他警告，這種強調可能會產生誤導性的安全感，因為小型專業模型可能會帶來等同甚至更嚴重的風險，並扼殺對公眾有益的創新。

SB 1047早期版本提議成立邊界模型部門以監管AI技術，但該法案修改為將監管權歸於政府運營機構下的邊界模型委員會，成員由州長和立法機構任命。

由加州州參議員斯科特·維納提出的SB 1047遭到科技界的強烈反對。知名AI研究人員喬弗里·欽頓和約書亞·班吉奧支持該倡議，並表達對AI潛在風險的擔憂。維納強調主動措施的重要性，表示：“我們不應等到壞事發生才行動。”

在他的否決信中，紐瑟姆重申州政府對安全的承諾，堅稱“加州不會放棄責任。必須採取安全協議，並必須能夠對不法行為施加明確的後果。”他主張需要一個隨著AI進步而變化的監管框架。

該法案獲得了科技領袖和組織的廣泛反對，包括研究員李飛飛和Meta首席AI科學家雅恩·勒昆，他們批評該法案可能抑制AI創新。代表亞馬遜、蘋果和谷歌等大型公司的科技貿易團體警告SB 1047可能會扼殺加州科技界的新發展。此外，風險投資公司安德森·霍洛維茨及多家初創公司對AI創新者的財務影響提出擔憂，導致SB 1047版本在8月15日經加州預算委員會審議時進行了修訂。

Google 為 Gmail 提升用戶體驗，新增改進的摘要功能和「即將到來」標籤。

OpenAI 預計在未來五年內將 ChatGPT 訂閱價格提高至 44 美元。