OpenAI 因反對擬議的人工智慧安全法案而受到批評

Home AI新聞 OpenAI 因反對擬議的人工智慧安全法案而受到批評

前OpenAI員工威廉·桑德斯和丹尼爾·科科泰洛已致信加州州長加文·紐瑟姆，對公司對於針對未來人工智慧發展所制定的嚴格安全指導方針的州法案態度表示失望。他們寫道：“我們加入OpenAI是為了促進其開發的強大人工智慧系統的安全性。然而，我們因對公司在安全、誠實和負責任地開發這些技術的承諾感到失望而選擇辭職。”

這兩位前員工強調，若在缺乏充分保障的情況下推進人工智慧，將會對公眾造成“可預見的災難性風險”，這可能表現為“前所未有的網絡攻擊甚至生物武器的產生。”他們還批評OpenAI首席執行官山姆·奧特曼在監管問題上的矛盾立場。儘管他最近在國會作證支持人工智慧監管，但他們指出，當真正的監管出現時，他卻表示反對。根據MITRE和哈里斯民調2023年的調查，僅有39%的受訪者認為當前的人工智慧技術是“安全可靠的”。

所提到的法案SB-1047，即《前沿人工智能模型的安全與創新法案》，要求開發人員在訓練相關模型之前遵循嚴格標準，包括能夠實施全面的關閉程序並建立綜合的安全防護協議。近年來，OpenAI曾經遭遇多次數據洩露和系統侵入事件。

對此，OpenAI表示強烈不同意研究人員對其“對SB-1047立場的錯誤表述”。該公司在致加州參議員斯科特·維納的信中指出：“一個統一的聯邦人工智慧政策，而非各州法規的碎片化做法，將促進創新並使美國能夠制定全球標準，”該公司首席戰略官詹森·關說道。

桑德斯和科科泰洛反駁稱，OpenAI對聯邦監管的主張並不真誠。“我們無法再等國會行動——他們已明言不願實施有意義的人工智慧監管，”他們寫道。“如果國會最終採取行動，可能會使加州的立法努力化為泡影。”

有趣的是，該法案獲得了意想不到的支持者：xAI首席執行官伊隆·馬斯克。在X上，他表示：“這是一個困難的決定，可能會讓一些人感到不滿，但最終，我相信加州應該通過SB-1047人工智慧安全法案。我支持人工智慧監管已超過20年，就像我們對任何潛在風險的技術進行規範一樣。”馬斯克最近宣布計劃在田納西州孟菲斯建立“全球最強大的人工智慧訓練集群”，並曾考慮將其X（前推特）和SpaceX的總部遷至德克薩斯州，以逃避加州的監管環境。

Plaud NotePin：2024年實用科技創新的必備AI小工具

Grok 是否優於 Midjourney？兩款 AI 工具的全面比較