近期的報導，包括一個 AI 建議人們吃石頭以及首屆「AI小姐」比賽的舉辦，重新點燃了有關負責任地開發和部署 AI 技術的重要討論。雖然石頭建議突顯了 AI 演算法的缺陷，但美容比賽則反映了人類偏執狹隘美的標準。在不斷警告 AI 可能引發災難的背景下（有一位 AI 研究者估算末日的可能性高達 70%），這些議題凸顯出來，但又未表明有脫離目前發展軌道的可能性。
AI 濫用的惡劣實例，如用於金融詐騙的深度假冒或對個人的不當描繪，突顯了這項技術的潛在危害。然而，這些行為是由人性惡劣驅動，而非 AI 自主行動。此外，擔心 AI 將導致工作崗位被取代的情況尚未顯著浮現。
AI 風險的範疇包括技術的武器化、固有的社會偏見、隱私侵犯，以及對 AI 系統理解的持續困難。然而，目前缺乏證據表明 AI 本質上對人類構成威脅。
儘管沒有足夠的證據，來自領先 AI 公司 13 位現任和前任員工的吹哨信，表達了對該技術風險的深切關注，包括對人類生命的威脅。這些曾與先進 AI 系統緊密合作的人士，使他們的擔憂更具可信度。AI 研究者 Eliezer Yudkowsky 過去的警告激發了人們的恐懼，即像 ChatGPT 這樣的 AI 可能演變為超越人類智慧，進而潛在危害人類。
然而，正如 Casey Newton 在 Platformer 所指出，尋求在吹哨信中找到驚人的揭露的人可能會失望，因為這可能是出於雇主的限制或缺乏超出推測敘事的實質證據。
值得注意的是，「前沿」生成 AI 模型不斷改進，這通過在標準化測試基準上的表現可見一斑。然而，「過擬合」的情況（即模型僅在訓練數據上表現出色）可能會使這些聲明誇大，這在統一律師資格考試的表現評估中得到證實。
儘管有擔憂，許多頂尖 AI 研究者，包括常被稱為「AI 教父」的 Geoffrey Hinton，相信人工通用智能（AGI）在五年內將會實現。AGI 代表一種 AI 系統，能夠在各種任務上匹配或超越人類智慧，這時存在的生存擔憂可能會出現。Hinton 最近的觀點轉變，從認為 AGI 遙不可及到強調這一辯論的迫切性，進一步增強了這一議題的關注。
此外，前 OpenAI 研究員 Leopold Aschenbrenner 最近因涉嫌洩密而被辭退，他發表了預測，指 AGI 有望在 2027 年實現，只要持續取得進展。
儘管一些專家對 AGI 近期實現持懷疑態度，但即將推出的模型，如 OpenAI 的 GPT-5 及下一代 Claude 和 Gemini，預計將帶來令人氣餒的突破。然而，如果未來的技術增長停滯，存在的生存擔憂最終可能會消退。
對此表示擔憂的專家如 Gary Marcus 提出了對 AI 模型可擴展性的質疑，認為新一波「AI 冬季」的早期徵兆可能正在出現。AI 冬季是由於未能滿足期望而導致的興趣和資金減少的歷史時期，通常發生在 AI 能力誇大宣傳的階段之後。
最近的報告，如 Pitchbook 的一份報告，顯示生成性 AI 的交易減少 76%，從 2023 年第三季度的高峰回落，投資者在重新評估戰略。這一投資下降可能會導致現有公司的財務困難，並抑制新興 AI 項目的創新。然而，從事前沿模型開發的大型公司可能會在這一趨勢中保持相對穩定。
Fast Company 進一步強調，缺乏證據顯示 AI 產生足夠的生產力提升以正面影響公司盈利或股價。因此，潛在的新 AI 冬季的威脅，可能會在 2024 年下半年主導討論。
儘管面臨挑戰，許多專家仍然持樂觀態度。Gartner 將 AI 的影響比擬於印刷術和電力等變革性發明，強調其重塑社會的潛力。沃頓商學院教授 Ethan Mollick 倡導立即將生成 AI 整合到工作流程中。
生成 AI 能力的證據不斷增加；例如，據報導，AI 系統在辯論中比一般人類的說服力高出 87%。此外，研究顯示 AI 模型在提供情感支持方面可能超越人類，通過如認知重評等技術來實現。
核心問題仍然是：AI 會幫助解決重大的全球挑戰，還是最終導致人類的災難？很可能，結果將呈現出驚人的進步和與先進 AI 相關的可惜陷阱的混合。考慮到技術進步的兩極化，即便是行業領袖對 AI 的風險與回報也抱持不同的看法。
根據我對近期 AI 安全進展的評估，我個人將末日的可能性評估為大約 5%。像 Anthropic 這樣的組織在澄清大型語言模型運作原理上的努力，可能有助於提高我們有效減輕風險的能力。
最終，AI 的未來面臨十字路口，既有前所未有的機遇，也有顯著的風險。參與有根據的討論、確保道德開發，以及實施主動監管，是最大化 AI 社會效益的關鍵。儘管未來可能充滿富饒，但也存在陷入反烏托邦的風險。負責任的 AI 發展必須優先考慮明確的道德準則、嚴格的安全規範、人類監督以及強有力的控制機制，才能有效應對這一迅速演變的環境。
排行榜
