國務院支持的報告概述減輕毀滅性人工智慧風險的行動計劃

Home AI新聞國務院支持的報告概述減輕毀滅性人工智慧風險的行動計劃

美國國務院的一份報告強調了減輕與先進人工智慧（AI）技術相關風險的關鍵策略，特別是潛在的武器化和失控問題。這份名為《深度防禦：增強先進AI安全與保障的行動計劃》的報告由專注於安全的AI公司Gladstone AI製作，該公司由兄弟Jeremie和Edouard Harris創立。

自2022年10月起——在ChatGPT推出之前——該行動計劃吸納了來自200多位利益相關者的意見，包括AI研究者、網絡安全專家以及來自多國的國家安全官員。儘管先進AI擁有重大優勢，報告指出，新的災難性風險如同大規模毀滅性武器的出現需要立即的政府介入，以應對這些國家安全問題。

行動計劃 delineates 出兩大主要風險：武器化和失控。武器化可能導致AI系統自主利用漏洞，策劃虛假信息活動或設計生物武器。目前，雖然沒有AI能完全執行這類攻擊，但未來的AI發展仍存在重大威脅。報告指出，「這類模型的擴散在缺乏有效監測和控制措施的情況下可能非常危險。」

隨著先進AI接近人工通用智能（AGI）水平，失控風險顯現。如果不加以控制，AI系統可能表現出追求權力的特徵，例如抵抗關閉或操控人類操作員。AI目標與人類意圖之間的差距進一步加劇了這些風險，這也是各大AI實驗室持續研究的重點。

為應對這些挑戰，報告提出多項政策建議，分為「努力方向」（LOE），旨在增強國家安全的同時促進AI的有益應用。

1. 當前風險穩定化：建立“AI觀察所”以進行威脅評估和信息共享，為美國AI開發者實施保障措施，並利用供應鏈控制確保全球AI技術的安全部署。

2. AI事件準備：設立跨機構工作小組和培訓計劃，提升政府的應對能力，並建立有關先進AI事件的早期預警系統框架。

3. 支持AI安全研究：撥款支持對齊研究，以確保開發者在追求先進AI能力的過程中維持系統安全。

4. 長期監管框架：建立專門的AI監管機構和法律責任框架，以在減少風險與鼓勵創新（特別是對較小實體）的需求之間取得平衡。

5. 外交措施：採取立即和長期行動，以建立國際AI保障機制，並確保全球AI供應鏈的安全。

報告作者強調了靈活框架的重要性，以應對迅速變化的AI技術發展。他們認識到在開放訪問模型的好處與潛在濫用之間取得平衡的挑戰，因為強大的模型容易被調整為有害用途。

Jeremie和Ed Harris在早期模型如GPT-2的迭代中開始意識到這些風險，並在看到GPT-3的擴展後深感擔憂。他們逐漸轉變從AI創業公司到專注於AI安全，包括為國家安全官員提供有關生成式AI及其相關風險的培訓項目。

自成立Gladstone AI以來，他們不斷致力於技術與政策之間的橋接，意識到有必要對AI風險進行獨立且無偏見的分析，以消除大型科技組織中的固有偏見。隨著政策制定者對AI風險觀點的演變，特別是在ChatGPT之後，Harris兄弟強調制定現實的監管建議的必要性。他們的努力旨在精煉對國會和行政行動的建議，並與關鍵利益相關者合作，應對快速進步的AI技術所帶來的複雜挑戰。

Pika 透過生成式 AI 音效提升影片製作工具，讓創作內容更加引人入勝

伊隆·馬斯克承諾將其聊天機器人競爭對手Grok開放源碼