Meta的首席人工智能科學家Yann LeCun於週三公開批評支持加州具爭議性人工智能安全法案SB 1047的支持者。這一反對聲音緊隨Geoffrey Hinton日前對該法案的支持，突顯出人工智能先驅之間在AI監管未來方面的重大分歧。
加州立法機構已通過SB 1047，正待州長Gavin Newsom簽署。該法案引發了關於AI監管的激烈辯論，提出對於因缺乏適當安全措施而可能造成災難性損害的中大型AI模型開發者負起責任。具體針對訓練成本至少為1億美元的模型以及在加州運行的模型，該州是全球第五大經濟體。
AI巨頭之戰：LeCun與Hinton對SB 1047的爭議
LeCun在深度學習領域的核心地位使他質疑許多法案支持者對AI能力的「曲解」。他在X（前Twitter）上發文指出，“這種曲解源於他們的經驗不足，對未來挑戰的天真，以及對自己組織進展的過度估計。”
他的評論直接回應了Hinton對一封公開信的支持，該信由超過100名當前及前OpenAI和Google DeepMind員工簽署，於9月9日提交給州長Newsom，呼籲他簽署SB 1047，並提出強大AI模型帶來的嚴重風險，包括可能被利用於生物武器和對關鍵基礎設施的網絡攻擊。
LeCun與Hinton之間的公開分歧顯示出對快速演變技術的監管面臨的複雜性。去年離開Google以表達對AI風險的擔憂的Hinton，代表著那些認為AI系統可能很快創造出生存威脅的觀點。相較之下，LeCun則認為這些擔憂為時尚早，並對公開研究造成負面影響。
SB 1047的內幕：重塑AI監管的具爭議性法案
關於SB 1047的辯論破壞了傳統的政治聯盟。儘管曾對法案作者州參議員Scott Wiener提出過批評，但Elon Musk仍然是其中一位重要支持者。相對地，反對者包括前議長Nancy Pelosi、舊金山市長London Breed，以及顯赫的科技公司和風險投資家。
AI公司Anthropic最初反對該法案，但在法案經過修正後改變立場，表示法案的「好處可能超過其成本」。這一轉變突顯出立法過程的不斷演變及立法者與科技界之間的持續談判。
批評者認為SB 1047可能抑制創新，並使小型公司和開源項目處於不利地位。DeepLearning.AI創始人Andrew Ng在《TIME》雜誌中指出，該法案「在於對一般用途技術而非其應用進行監管上犯了根本性錯誤」。
然而，支持者認為，無監管AI開發的潛在風險遠大於這些擔憂。他們相信，對於預算超過1億美元的模型的關注確保了主要影響到的是具備建立健全安全措施的大型資源公司。
矽谷分裂：SB 1047如何分化科技界
來自反對該法案企業的現任員工參與讓這些組織內部在創新與安全之間的分歧浮出水面。
隨著州長Newsom考慮是否簽署SB 1047，他面臨的選擇將可能影響加州甚至整個美國的AI發展走向。在歐盟推進其AI法案的背景下，加州的決定可能影響美國是否採取更積極或不介入的聯邦AI監管方式。
LeCun與Hinton間的對立成為關於AI安全和監管更大辯論的縮影，凸顯出政策制定者在制定能有效解決安全問題而不妨礙技術進步的立法面臨的挑戰。
隨著AI領域的快速演變，這場加州立法鬥爭的結果可能為社會如何管理先進人工智慧系統的潛力與風險奠定重要先例。科技行業的觀察者、政策制定者及公眾將密切關注州長Newsom在接下來幾週的決定。
排行榜
