OpenAI 與 Anthropic 達成協議：美國政府將對新型人工智能模型進行早期安全評估

Home AI新聞 OpenAI 與 Anthropic 達成協議：美國政府將對新型人工智能模型進行早期安全評估

OpenAI與Anthropic簽署AI安全合作協議

近期，知名的AI公司OpenAI和Anthropic宣布與美國AI安全研究院達成重要合作協議。根據這項諒解備忘錄，雙方承諾在新AI模型公開發布之前，向美國政府提供早期的安全評估訪問權限。這一合作標誌著AI技術安全發展的一個關鍵進展。

根據協議，OpenAI和Anthropic將在AI模型的公開發佈前後，向美國政府提供訪問權限。此舉旨在幫助識別和減少潛在的安全風險。美國政府表示，此項合作將增強對AI技術的理解與監管，確保其安全和可控發展。

OpenAI的首席策略官Jason Kwon對此倡議表示強烈支持，強調與美國AI安全研究院攜手建立最佳實踐和安全標準的重要性。他相信，此合作將提升美國在負責任的AI發展中的領導地位。

Anthropic的共同創辦人及政策負責人Jack Clark也對這次合作充滿信心，強調確保AI技術安全和可靠性的重要性，以實現積極的社會影響。通過此次合作，雙方旨在更好地識別和減少AI相關風險，促進負責任的AI發展。

此公告恰逢全球對AI監管政策的討論日益熱烈之際。隨著各級立法機構探索如何在創新與必要的安全監管之間取得平衡，OpenAI與Anthropic的合作為行業樹立了標竿。近期，加州通過了《先進AI模型安全創新法案》（SB 1047），該法案要求AI公司在訓練先進模型之前採取特定的安全措施。儘管該法案仍待州長簽署，但已引發廣泛關注和討論。

白宮正在積極尋求領先AI公司自願承諾安全措施。多家頂尖公司已表達非約束性承諾，投資於網絡安全和公平性研究，並承諾對AI生成內容進行水印標記，以提高安全性。

美國AI安全研究院主任Elizabeth Kelly表示，這些新協議雖然只是開始，但標誌著管理AI負責任未來發展的重要里程碑。她致力於促進AI技術的安全發展，確保其對社會的益處。

OpenAI、Anthropic與美國政府的合作為AI技術的安全發展注入了新動力。隨著AI的不斷進步及其應用的多樣化，確保AI的安全性和可靠性將成為全球關注的焦點。通過加強合作與監管，AI技術有望在推動社會進步與發展方面發揮越來越重要的作用。

Klarna 裁員一半：運用人工智慧支持商業成長策略

隨著對人工智慧安全問題的日益關注，近半數的 OpenAI AGI 安全團隊成員已經離職。