舒默揭示1000萬美元資金用於NIST人工智慧安全研究所，應對持續的財務挑戰

Home AI新聞舒默揭示1000萬美元資金用於NIST人工智慧安全研究所，應對持續的財務挑戰

美國參議院多數黨領袖查克·舒默（Chuck Schumer, D-NY）今天宣布，國家標準與技術研究院（NIST）將獲得最多1000萬美元，以設立美國人工智慧安全學院（USAISI）。該倡議於2023年11月啟動，旨在支持商務部在人工智慧行政命令下的責任。

有關該學院運營及資金的詳細信息尚不明確，因為NIST擁有約3400名員工及超過16億美元的年預算，但長期面臨資金不足的問題。最近，《華盛頓郵報》報導了NIST的設施惡化問題，包括漏水和黑黴等情況。

舒默強調了人工智慧資金的重要性，稱這是實施拜登政府人工智慧行政命令的“強有力首付”。他表示：“作為多數黨領袖，我強調我們政府必須建立明智的護欄，以確保美國在創新方面保持領導地位，同時應對人工智慧相關的潛在風險。我為此資金而奮鬥，以優先考慮創新、安全、問責和透明度，支持美國的產業與進步。”

NIST人工智慧學院將專注於制定人工智慧模型的安全性、安全性和測試標準，驗證AI生成的內容，並設立測試環境，讓研究人員評估新興的AI風險。該學院將與200家公司和組織的聯盟合作，致力於提升人工智慧系統的安全性和問責性。

儘管有這些進展，但關於NIST的資金和透明度仍存在批評。2月份，眾議院科學委員會成員在一封信中表達了對NIST缺乏透明度的擔憂，指出計畫中的USAISI相關研究經費缺乏競爭性程序，尤其針對NIST和RAND公司之間的AI研究夥伴關係。RAND公司是一家與科技億萬富翁和AI產業有關聯的知名智庫。

立法者指出：“目前AI安全研究領域的現狀對NIST承擔領導角色提出挑戰，”還補充說該領域的研究結果往往缺乏外部審核，且範疇和定義存在重大分歧。

曾在埃森哲（Accenture）負責人工智慧事務並在推特（現為X）的META團隊任職的拉曼·喬杜里（Rumman Chowdhury）承認USAISI的資金問題。她表示：“此議題中最少被討論的部分是這是一項未獲資金的命令。鑑於美國政治的當前兩極化，推動任何法律通過國會都是具有挑戰性的，因此才會通過行政命令來進行。問題仍然在於缺乏資金。”

Inflection AI 推出全新 Pi 聊天機器人模型，性能媲美 GPT-4

Nvidia GTC 2024 預覽：未來的 AI 創新 | Greg Estes