人工智慧的迅速演變:2023年專家調查洞察
人工智慧以驚人的速度發展,僅在一年多的時間內重塑了企業和日常生活中的對話。這種加速發展之速令人驚訝,即使是行內專家也表達了驚訝和擔憂。最近的一項調查顯示,2,778位在頂尖行業刊物上產生重大影響的作者對此表示憂慮。
預期AI代理的未來
2023年人工智慧進展專家調查是迄今為止規模最大的研究,結果顯示如果當前趨勢持續,機器在2027年超越人類完成所有任務的機率為10%,而到2047年則高達50%。受訪者估計,所有人類職業的完全自動化可能在2037年變為現實,並且存在至少10%的風險,進階AI可能導致重大權力削弱甚至人類滅絕。這些觀點與人工智慧所帶來的生存風險相呼應,引起有效利他主義支持者的共鳴,雖然批評者認為此觀點忽略了像就業流失和不平等這樣的迫在眉睫問題。
研究人員指出:“樂觀的情境突顯了AI的革命潛力,而悲觀的預測則強調了AI發展中的重大風險。”
未來任務的多樣性
該調查是系列研究的第三部分,前兩次分別於2016年和2022年進行。2023年秋季的調查反映了經歷了ChatGPT等AI模型推出及美國、英國和歐盟在AI監管方面采取重大行動的變革性一年中,專家的看法。
專家對39項具體任務進行評估,以確定AI在多快的時間內可能實現這些任務。這些任務包括:
- 翻譯新學語言的文本
- 短暫接觸後識別物件
- 編寫特定的Python代碼
- 創作《紐約時報》的暢銷小說
- 自主建立支付處理網站
- 微調大型語言模型
驚人的是,除了四項任務外,其餘的預計在未來十年內實現的機率均超過50%,而32項任務中有21項的預測時間比以往更早。預計需要超過十年才能完成的任務包括:
- 輸出虛擬世界的微分方程(12年)
- 在家庭中物理安裝電氣布線(17年)
- 證明可發表的數學定理(22年)
- 解決持久的千禧年獎數學問題(27年)
人類水平表現及完全自動化
專家對機器何時可能達到「高水平機器智慧」(HLMI)及「勞動的完全自動化」(FAOL)進行了評估。共識認為,HLMI在2047年達成的機率為50%——比之前的估算提前13年,而FAOL則預計在2116年實現,較去年預測縮短了48年。
研究人員觀察到:「儘管對這些里程碑的時間表看法不一,但今年的調查顯示向較早預期的明顯趨勢。」
風險與機會的平衡
關於AI的關注點集中在對齊、可信度、可預測性、能力及濫用的可能性。當被詢問2043年預期的最先進AI特徵時,參與者表示:
- 82%預見AI會找到意想不到的方式達成目標
- 81%預期AI能像人類專家一樣交談
- 69%預期AI會出現不可預測的行為
到2028年,AI可能經常讓人類難以理解其輸出背後的理由。受訪者對AI可能促進錯誤資訊的傳播、操縱公共輿論、被危險團體武器化或加劇經濟不平等表示重大擔憂。
儘管面臨這些重大挑戰,多數(68%)人認為AI的潛在益處超過負面影響,然而約58%承認存在極端負面結果的可能性。
專家之間的共識約有一半預測人類滅絕或重大權力削弱的機率至少為10%。值得注意的是,一些參與者將滅絕的可能性估算為令人不安的25%。
預測AI的未來
儘管專家們的背景各異,研究人員強調準確預測AI的挑戰。如他們幽默地指出:「參與者並不具備任何特別的預測能力。」
由於觀點受問題框架影響,達成共識相當複雜。然而,研究人員認同AI專家的集體見解能提升我們對未來可能性的理解,並表示:「儘管預測可能不可靠,但知情的猜測對於塑造我們對未來的觀點至關重要。」