OpenAI 宣布啟動最新「前沿模型」的訓練,並成立了一個新的安全與保安委員會。該委員會由董事會成員 Bret Taylor 主席,其他成員包括 Adam D’Angelo、Nicole Seligman 和現任 CEO Sam Altman。
OpenAI 在最近的部落格文章中提到:
「OpenAI 已經開始訓練下一個前沿模型,旨在提升我們朝向通用人工智慧 (AGI) 的能力。雖然我們為能提供業界領先的性能與安全模型感到自豪,但在這個關鍵時刻,我們鼓勵公開討論。」
90 天計時器啟動
OpenAI 明確了委員會的即時責任:
「安全與保安委員會的首要任務是在接下來的 90 天內評估並完善 OpenAI 的流程和保障措施。在此期間結束時,委員會將向全體董事會提出建議。隨後,OpenAI 將依據安全和保安規範公開宣佈採納的建議。」
這表明新的前沿模型——可能命名為 GPT-5——至少不會在 90 天內推出,給予委員會充分的時間評估現有流程和保護措施。因此,預計董事會將於 2024 年 8 月 26 日收到這些建議。
為何 90 天?
雖然 OpenAI 並未明確說明這一時間表的原因,但 90 天是企業評估和反饋的傳統做法,提供了一個既不過短也不過長的平衡時間框架。
對委員會獨立性的擔憂
該新委員會的成立引發批評,因為其成員主要是 OpenAI 執行官,這引發了對安全評估獨立性的擔憂。OpenAI 董事會的組成歷史上一直存在爭議。在 2023 年 11 月 17 日,這家非營利控股公司的前董事會驚人地解雇了 Altman,理由是他「不夠坦率」,導致員工的強烈反彈,以及包括微軟在內的大投資者的批評,微軟四天後重新任命了 Altman。前董事會因其全男性的組成受到質疑,隨後進行了重組。
今年 3 月 8 日,新的成員如 Sue Desmond-Hellmann 和 Fidji Simo 加入董事會,以促進領導層的多元化。
OpenAI 的挑戰與機遇
OpenAI 最近推出了其最新 AI 模型 GPT-4o,但在此發布後遭到批評。女演員 Scarlett Johansson 公開譴責該公司,指責其涉嫌使用一種類似她的 AI 聲音,這與她在電影《她》中的角色相關。OpenAI 澄清表示,該聲音是獨立委託的,並不是意圖模仿 Johansson。
此外,首席科學家 Ilya Sutskever 的辭職以及超對齊團隊聯合負責人的離開引發了警覺,後者強調了優先考慮「炫目產品」而非安全的令人擔憂趨勢。超對齊團隊最終被解散。
儘管面臨這些挑戰,OpenAI 仍成功與主流媒體建立新夥伴關係,為其訓練數據獲取興趣,並對其 Sora 視頻生成模型產生了關注,吸引娛樂業的目光,試圖利用 AI 提高製作的效率。
隨著 OpenAI 穿行於這片動盪水域,新成立的安全與保安委員會在回應利益相關者的擔憂方面,尤其是在監管機構和潛在業務夥伴之間的關切,將扮演關鍵角色,為即將到來的模型發布做好準備。