白宮啟動新AI安全聯盟：200多家領先企業攜手合作，測試與評估AI模型

Home AI新聞白宮啟動新AI安全聯盟：200多家領先企業攜手合作，測試與評估AI模型

拜登政府啟動美國人工智慧安全研究所聯盟

在新設立的美國人工智慧安全研究所（USAISI）董事長任命一位高級白宮助手後，拜登政府宣布成立美國人工智慧安全研究所聯盟（AISIC），這是「首個專注於人工智慧安全的聯盟」。

此次合作包含超過200個成員組織，涵蓋主要科技公司如Google、Microsoft和Amazon，以及領先的大型語言模型（LLM）公司，如OpenAI、Cohere和Anthropic。聯盟還包括研究實驗室、學術團隊、公民社會組織、州和地方政府及非營利組織。

根據NIST的部落格文章，AISIC是迄今為止最大的測試與評估團隊集合，旨在建立人工智慧安全的基礎測量科學。在USAISI的運作下，聯盟將支持拜登總統行政命令中列出的關鍵倡議，包括制定紅隊測試指南、能力評估、風險管理、安全和保安協議，以及合成內容的水印技術。

聯盟成立詳情

聯盟的宣布於2023年10月31日伴隨著拜登總統的人工智慧行政命令。NIST網站指出，參與資格對能夠貢獻專業知識、產品、數據或模型的組織開放。選定的參與者需支付每年1,000美元的費用，並與NIST簽署聯盟合作研究與開發協議（CRADA）。

人工智慧安全指導方針

聯盟成員將專注於幾個關鍵指導方針：

1. 創建安全、可靠且可部署的人工智慧開發與應用工具和最佳實踐。

2. 建立識別和評估潛在有害AI能力的指導方針。

3. 推廣生成式AI的安全開發實踐，並解決雙重用途基礎模型的問題，確保隱私保護的機器學習。

4. 提供資源以建立和維護測試環境。

5. 發展有效的紅隊測試與隱私保護機器學習技術。

6. 設計用於驗證數字內容的工具。

7. 確定必要的AI人才技能標準，包括風險識別、管理、測試和驗證。

8. 探討社會與技術之間的關係，聚焦人們在多樣的環境中如何與AI互動。

9. 提供關於管理AI實體生命周期中相互依賴性的指導。

資金不確定性

儘管已宣布成立，但關於USAISI的資金問題仍存在疑問。報導指出，自白宮11月份首次宣布以來，對於運營框架或資金來源的具體細節鮮有披露，特別是考慮到NIST每年超過16億美元的預算及其已知的資源限制。

1月時，一組兩黨參議員向參議院撥款委員會申請1,000萬美元以協助成立USAISI，但該資金的狀態仍不明朗。此外，眾議院科學委員會的立法者對NIST的透明度和新研究所資金授予缺乏競爭程序表示擔憂。

談及資金挑戰，前Accenture及Twitter的AI倫理專家Rumman Chowdhury指出，USAISI在執行命令下運作，並不具備資金來源。她理解阻礙立法行動的政治複雜性，但同時強調該倡議在資金上嚴重不足。

超微科技收入激增，創新建構模塊及生成式人工智慧廣泛應用推動增長

Rize推出AI生產力教練，助力提升遠程工作時代的工作與生活平衡

Most people like

uBrand

48.8K

在當今快速變化的數位環境中，運用人工智慧（AI）已成為創造引人注目且獨特品牌的必要條件。透過將AI整合進品牌策略中，您可以優化流程、獲取具洞察力的消費者數據，並提升客戶體驗。探索如何有效利用AI技術，為您的品牌定位以實現成功，並在競爭中保持領先地位。

人工智慧 AI Graphic Design

EOS Data Analytics

814.9K

我們在地球觀測領域引領革命，成為全球人工智慧驅動衛星影像分析的領導者。最先進的技術將原始衛星數據轉化為有意義的洞察，幫助企業和組織做出明智的決策。探索我們的創新解決方案如何提升您對地球的理解，優化資源，並推動可持續增長。

人工智慧驅動的分析工具 Other

SlideSpeak

406.3K

介紹 SlideSpeak，一個創新的聊天平台，旨在提升用戶與 PowerPoint 幻燈片的互動體驗。這個動態工具能夠實現無縫互動，改變觀眾體驗演示文稿的方式，讓您的幻燈片比以往任何時候都更加互動。

PowerPoint 簡報 AI Presentation Generator

Shipper Global

8.1K

歡迎來到我們的全球快遞費率比較平台，在這裡您可以輕鬆比較來自世界各地頂級快遞公司的運費。無論您是小企業主、電子商務創業者，還是需要寄送包裹的人，我們的用戶友好工具能幫助您找到最合適的運輸選項。通過快速識別最優惠的費率，為您的包裹確保高效送達，節省時間和金錢。立即開始比較全球快遞費率，獲得無縫的運送體驗！

快遞費用比較 Other

Find AI tools in YBX