在罕見的爆發中，Meta的LeCun批評OpenAI和圖靈獎得主

Home AI新聞在罕見的爆發中，Meta的LeCun批評OpenAI和圖靈獎得主

Meta的首席人工智慧科學家Yann LeCun強烈批評一些知名AI領袖因擔心AI會對人類構成生存威脅而主張監管，尤其在英國即將召開首屆全球AI峰會之際。在X平台（前身為Twitter）的一篇帖子中，LeCun直言不諱地駁斥了這些末日情境，稱其毫無根據。他表示：“你們傳播的末日恐懼是荒謬的。受明確目標指導的強大AI系統，搭配適當的防護措施，既安全又可控，因為我們會設定這些參數。”

LeCun強調，目前的自回歸語言模型（LLMs）缺乏這些指導目標，並警告不要將其當前的限制推廣到未來的AI系統。他進一步指責三大AI公司的領導人——OpenAI CEO Sam Altman、Google DeepMind CEO Demis Hassabis和Anthropic CEO Dario Amodei——共謀維持封閉的AI模型，斷言：“Altman、Hassabis和Amodei是在激烈的企業游說的前線，目的是捕獲AI產業的監管框架。”

他還針對其他圖靈獎得主，質疑MIT教授Max Tegmark以及Geoff Hinton和Yoshua Bengio，聲稱他們無意中為推動限制開放AI研究與發展的人士提供了武器。LeCun支持開放AI研究，認為這是促進技術民主化的關鍵，並強調Meta的做法以開源倡議為中心，例如其旗艦大型語言模型Llama 2。

儘管美國政府擔心開源AI會授予惡意行為者權力，LeCun認為限制對AI模型的訪問是適得其反的。他表示：“如果你們的恐懼驅動的運動成功，將不可避免導致災難：少數公司的AI控制集中化。我們的學術同行中，大多數壓倒性支持開放AI研究。很少有人贊同你們所提出的末日情境。”

LeCun主張，開放AI平台應成為常態，以鼓勵多元貢獻和民主參與。他解釋道：“在未來AI系統體現集體人類知識和文化的情景中，平台的開源性和可接觸性至關重要。這種開放性對於這些平台準確反映人類經驗和洞察至關重要。”他補充道：“貢獻必須是眾籌的，類似於維基百科，這在沒有開放平台的情況下是不可行的。”

他警告嚴格的規範可能會扼殺開源AI，導致少數西海岸的美國和中國公司對AI平台的壟斷控制。“這將對民主和文化多樣性有何影響？這才是真正讓我擔憂的。”

LeCun的批評正值即將舉行的英國峰會將以AI帶來的風險為焦點之際。對於這些擔憂，他在Twitter上揶揄英國首相罹患“因AI妄想症引發的生存宿命風險（EFRAID）”，希望這不會蔓延到其他世界領袖。雖然受邀參加峰會，但他的言論引發了與Tegmark的辯論，並激起了進一步的討論。

在AI被廣泛稱為“AI教父”的Hinton於10月27日警告公司計劃在不久的將來開發利用成倍增長的計算能力的模型後，這場辯論愈演愈烈，他表示擔心缺乏對其能力的監管。LeCun回應了Hinton的說法，強調如果未來的AI系統遵循現有架構，可能達到高水平的知識，但仍然缺乏推理、創造力和對物理世界的理解。

“未來的系統必須採用創新的架構，賦予它們在明確的目標和防護措施下推理、規劃和運作的能力。”他表示。“這些以目的為導向的框架將確保安全與控制，因為我們決定其目標，防止任何主導意圖出現。”他堅決不同意高級AI系統必然會尋求壓倒人類的觀點，認為這種信念根本上是錯誤的。

AI安全峰會：28個國家及歐盟支持《布萊切利宣言》，促進全球合作升級

AI創業公司動態：Google與Nvidia投資創新機器學習公司