駕馭人工智慧熱潮：OpenAI、Q* 及不斷升高的焦慮

Home AI新聞駕馭人工智慧熱潮：OpenAI、Q* 及不斷升高的焦慮

Updated on 十一月 1 2024

在過去十天中，圍繞OpenAI發生了驚心動魄的事件——執行長山姆·奧特曼被解雇，技術長米拉·穆拉提暫時擔任CEO，總裁格雷格·布羅克曼辭職，幾乎所有OpenAI員工威脅辭職，最終奧特曼在感恩節前夕被重新任命。我原本期望這個假期能讓矽谷遠離AI的喧囂，享受一段應有的放鬆時光。

然而，事態並非如此。感恩節早晨，《路透社》報導稱，在奧特曼被暫時解職之前，幾位OpenAI研究人員已向董事會發送了一封信，警告有關於一項「強大的人工智能發現」，他們認為這可能對人類構成威脅。這一消息在家人聚集享用感恩節大餐之際迅速蔓延。名為Q的項目被期待能推進AGI（通用人工智能）的發展，OpenAI將AGI定義為能在大多數經濟價值高的任務中超越人類的自主系統。根據《路透社》的報導，這個新模型可以解決某些數學問題，儘管其能力僅達到小學水平，但研究人員對Q的未來前景表示樂觀。

從OpenAI的董事會風波過渡到對Q的討論，讓我思考起持久存在的AI炒作周期。我並不主張AI開發應該中斷，但偶爾短暫脫離喧囂，即使只有一天，也是令人耳目一新的。對Q的興奮似乎源自Nvidia的高級AI科學家吉姆·范所描述的「幻想」算法，他批評該算法缺乏實質性根據——沒有已發表的論文，沒有統計數據，更沒有實際產品。

儘管有著不可否認的智慧吸引力和激烈的媒體競爭以爭取最新消息，但持續的新聞流也可能來自於一種更深層的焦慮，這種焦慮是由不確定性所推動的。威斯康辛大學的研究表明，對潛在未來威脅的擔憂會干擾我們逃避這些威脅的能力，從而增強焦慮感。我們的大腦充當「預測機器」，利用過去的經驗預測未來並改善結果。當我們的遠見因不確定性而受到阻礙時，準備能力就會減弱，焦慮就會上升。

這種現象不僅適用於一般公眾，也適用於頂尖的AI研究人員和領導者。即使是趙福利·金頓、揚·勒昆和安德魯·吳這樣的巨頭們，也在對AI的未來感到不確定。儘管他們的社交媒體辯論充滿智慧，但在面對未來的焦慮時，卻幫不上忙。

圍繞OpenAI和Q的激烈分析反映了對AI不確定發展路徑的集體焦慮。如果我們持續不斷地追求信息和保證，我們可能忽略關於AI的基本真理：其未來本質上是不可預測的。

這並不意味著對AI演變進行討論和規劃不應繼續，但或許我們可以暫時停下這種辯論，享受假期的氛圍。距離聖誕節只有四周，也許所有相關方——有效利他主義者、技術樂觀主義者、行業領袖和學術研究者——都可以同意暫時從AI的炒作中抽身，享受一些蛋奶酒和餅乾。對AI未來的共同焦慮和炒作，將在新年後靜靜等待著我們。我保證。

生成式人工智慧如何在零信任環境中加強網絡安全

革命性技術使語言模型速度提升300倍