拜登任命人工智慧安全研究所領導人，持續關注NIST資金問題

Home AI新聞拜登任命人工智慧安全研究所領導人，持續關注NIST資金問題

今天，拜登政府任命了白宮重要助手伊莉莎白·凱利（Elizabeth Kelly），她在總統的AI行政命令（EO）中扮演了關鍵角色，擔任新成立的美國AI安全研究所（USAISI）主任，該研究所隸屬於國家標準技術研究所（NIST）。艾赫蘭·塔巴西（Elham Tabassi）也被任命為首席技術官。

NIST是美國商務部的一部分，於2023年1月發佈了備受期待的AI風險管理框架，並被指派在白宮的AI EO下評估和審計AI技術，包括制定AI紅隊測試的指南，以確保安全、可靠的AI系統的部署。

此次領導層任命是自2023年11月USAISI成立以來的首次重大公告，該研究所旨在支持AI行政命令中概述的責任。然而，有關該研究所的運作和資金的詳細資訊仍然稀缺，尤其是面對資金挑戰的NIST擁有約3400名員工及超過16億美元的年度預算。

一組兩黨參議員已在2024財年的預算法案中要求撥款1000萬美元以建立NIST內的USAISI，但該請求的狀態尚不明確。此外，眾議院科學委員會的成員在12月批評NIST缺乏透明度，並未宣布計劃中的AI研究經費的競爭性程序。立法者們對NIST與RAND公司之間的AI研究夥伴關係表示擔憂，該智庫與科技產業及具爭議的“有效利他主義”運動有聯繫。

在信中，立法者指出AI安全研究領域面臨的挑戰，表示「該社群的發現往往自我引證，缺乏外部批評所帶來的質量」。他們強調在AI安全研究的範圍和定義上存在重大分歧。

前Accenture和Twitter META團隊的AI主管瑞曼·喬杜里（Rumman Chowdhury）就USAISI的領導任命發表了看法，並指出儘管對NIST和USAISI的更新充滿期待，但由於徹底的審核過程，溝通的速度是典型的。喬杜里強調她對NIST公正性的信心，並表示：「他們已經從事這類工作很長時間……這並不是隨著權力者的意願而變化的。」

然而，她強調資金仍然是USAISI的關鍵問題。「這是由行政命令所賦予的未獲資金的任務，」喬杜里解釋說，指出在兩極化的政治環境中獲得立法資金的挑戰。目前英國已撥款1億美元於AI安全領域，而美國的資金情況仍不明朗。

關於近期參議院的資金請求，她表示她知道該請求，但尚未看到資金已獲得的任何跡象。喬杜里還強調了AI安全研究所聯盟，該聯盟鼓勵組織貢獻他們在AI治理、安全和負責任的AI方面的專業知識。聯盟的會員費定為每年1000美元，儘管她對NIST在研究經費方面的計劃並不知情。

對於資金的呼籲持續不斷，Anthropic早在2023年4月便呼籲撥款1500萬美元以支持NIST的AI測量和標準舉措，這被視為維護美國在關鍵技術發展中的領導地位的直接解決方案。

儘管面臨這些挑戰，喬杜里對USAISI在NIST的未來仍持樂觀態度。她說：「我認為艾赫蘭是我所認識的最沉著的人之一……我們需要專注於完成工作的那種人。」她還指出，USAISI在NIST的定位傳遞了優先考慮科學誠信而非政治影響的積極訊息。

Google DeepMind推出「自我探索」框架，以提升大型語言模型（LLMs）並增強GPT-4性能。

微軟推出Deucalion模型及增強版AI影像功能於Copilot中

Most people like

Tripo 3D

577.3K

瞬間將單一圖像轉換為驚豔的 3D 資產！這一創新過程使您能夠通過無縫地將平面視覺轉換為動態三維模型，來提升您的創意項目。無論您是藝術家、遊戲開發者還是內容創作者，這項技術都能提升您的工作流程，以快速且精準的方式將您的想法變為現實。

3D 建模 AI Product Description Generator

Outplay

62.5K

Outplay 使銷售團隊能夠透過先進的人工智慧驅動自動化和無縫的 CRM 整合，提升交易成單率並增加收入。

銷售互動平台 AI Lead Generation

Learn Anything

227.2K

輕鬆解鎖任何主題的知識，利用由 TutorAI 驅動的尖端人工智慧，助你學習。深潛其中，發掘觸手可及的學習世界！

線上學習 Other

PhotoStyleAI

6.9K

輕鬆提升您的照片和圖像，利用先進的AI風格轉換和濾鏡工具。用創新的科技改變您的視覺效果，將創意變為現實。

AI 風格轉換 Other

Find AI tools in YBX