隨著對人工智慧安全問題的日益關注，近半數的 OpenAI AGI 安全團隊成員已經離職。

Home AI新聞隨著對人工智慧安全問題的日益關注，近半數的 OpenAI AGI 安全團隊成員已經離職。

OpenAI AGI安全團隊人員大規模流失，引發AI安全擔憂

最近，人工智慧領導公司OpenAI遭遇嚴重人力危機。多位前員工透露，負責人工一般智能（AGI）安全的團隊在過去幾個月內大幅減少，從約30名成員縮減至約16名。這一變化引起科技界和公眾對OpenAI在AI安全承諾的廣泛關注。

根據《富比士》的報導，前治理研究員Daniel Kokotajlo解釋稱，最近的離職並非全公司決策，而是幾位團隊成員自願選擇，因為他們對公司的未來方向和策略感到不安。AGI安全團隊的主要任務是評估和減輕超智能AI系統可能帶來的風險，確保這些技術不會威脅人類存在。

此外，OpenAI的共同創辦人及首席科學家Ilya Sutskever最近宣布辭職，導致其專注於AI安全的“超對齊”團隊解散。這一系列高層變動加劇了外界對OpenAI是否偏離其促進人類福祉的原始使命的擔憂。

OpenAI發言人重申了公司對提供先進且安全AI系統的持續承諾，強調其科學性風險管理方法。然而，這些保證並未緩解公眾對AI安全重視度下降的焦慮。

業界專家指出，隨著AI技術的快速演進，確保其安全和可控性正變得愈發重要。作為AI行業的領頭羊，OpenAI在AI安全上的立場和投資將對行業發展和社會對AI進步的信任產生重大影響。

AGI安全團隊的集體離職對整個行業而言是一個警鐘，強調參與AI研究和開發的公司與個體必須優先考慮安全和倫理問題。技術進步必須真正造福人類，而非帶來新的生存威脅。

OpenAI 與 Anthropic 達成協議：美國政府將對新型人工智能模型進行早期安全評估

科技巨頭如Apple和Microsoft競爭OpenAI的新一輪資金，因為ChatGPT即將在iOS 18上推出。

Most people like

Responsible AI Institute

20.4K

在人工智慧快速發展的時代，確保其安全與道德發展已成為當務之急。這個全球性非營利組織致力於推動倡議和指導方針，以促進Responsible AI Institute實踐。我們通過團結來自世界各地的專家、利益相關者與倡導者，旨在創造一個可持續的未來，使人工智慧惠及全人類。我們的使命強調在人工智慧技術中進行合作、透明與安全，為優先考慮社會福祉的創新解決方案奠定基礎。與我們共同塑造明天的負責任人工智慧環境。

人工智慧治理 Other

Podsqueeze

65.2K

Podsqueeze 利用先進的人工智能技術創造引人入勝的播客內容，包括詳細的節目筆記、精確的時間標記和資訊豐富的時事通訊。透過我們的創新解決方案，轉變您的播客體驗，提升觀眾參與度。

Podsqueeze AI Content Generator

Midjourney Art AI

310.6K

釋放你的創意潛能，使用 AI 藝術生成器將文本提示轉換為驚人的視覺效果。利用先進人工智慧的力量，輕鬆將你的想法變為現實，無論是在為項目創作插圖、設計獨特藝術品，或是單純探索你的想像力。體驗這個創新工具如何無縫結合科技與創意，將你的文字轉換為引人入勝的藝術作品，使藝術變得對每個人都可及。今天就開始你的藝術旅程，使用我們直觀的 AI 藝術生成器吧！

AI 藝術生成器 AI Art Generator

Marketer

22.7K

全方位數位解決方案，助力新建銷售。

數位銷售解決方案 Sales Assistant

Find AI tools in YBX