在瑞士達沃斯的世界經濟論壇上,首席執行官Sam Altman在被OpenAI非營利董事會短暫撤職後兩個月重新上任,對人工一般智能(AGI)的看法顯著趨於緩和。在與微軟首席執行官Satya Nadella及《經濟學人》主編Zanny Minton Beddoes的對談中,Altman表示:“我不認為有人再同意AGI的意義。”他進一步闡述,當AGI實現時,可能會出現初步的恐慌,但最終“人類會回到從事人類的事物”。他形容AGI為一個“出乎意料的持續進程”,暗示其為持續改進而非突如其來的突破,並指出“每年我們推出的新模型都比前一年好得多。”
此前,Altman在由彭博社主辦的討論中提到,AGI可能在“相當接近的未來”出現,但其影響“將遠低於我們的預期,對工作市場的改變也不會如我們所想的那般劇烈。”在2023年2月的部落格文章《AGI及其後的計劃》中,Altman強調了AGI潛在的危險,警告稱“未對齊的超智能AGI可能造成重大傷害”。他也警告稱,擁有超智能的專制政權可能會帶來類似的威脅。然而,他同時描繪了一幅充滿希望的前景,聲稱AGI可以顯著推動人類發展,增進經濟繁榮並加快科學發現。
Altman對AGI的看法隨著時間演變,最近的評論表明他從早前更加驚慌的姿態轉向更為冷靜的觀察。他此前暗示AI的深遠能力可能不久後便超越人類在說服力上的智力,導致意想不到的情境。
Altman的最新言論與重新組織的OpenAI董事會相契合。在他短暫被撤職後,董事會經歷了重要變化,部分專注於監控AGI風險的成員被替換。新董事會成員包括前財長Larry Summers和前Salesforce聯合首席執行官Bret Taylor,同時微軟現在擁有一個無投票權的董事席位。
在達沃斯的討論中,Zanny Minton Beddoes質疑Altman關於OpenAI章程的內容,該章程表示董事會將決定何時實現AGI,並且AGI商業化後將不再遵循現有協議。Altman輕鬆回應,暗示董事會的角色是隨著情況的變化重新考慮其決策的影響。
Nadella強調需要共同努力,確保未來AGI的發展帶來正面成果,同時減少意外後果。他指出,全球對AGI治理的興趣正在上升,各方利益相關者,包括政府和公民社會,將在塑造AGI未來中發揮關鍵作用。
Minton Beddoes重申了對OpenAI董事會潛在驚喜的擔憂,而Altman則輕描淡寫地回應,提到在風險較低的過去經驗中學到的教訓。
這些發展表明,有關AGI的對話正在演變,像Altman和Nadella等關鍵人物正在駕馭其對社會和經濟未來影響的複雜性。