OpenAI的雄心勃勃計劃：將民主融入AI技術，這是否僅僅是公關手段？

Home AI新聞 OpenAI的雄心勃勃計劃：將民主融入AI技術，這是否僅僅是公關手段？

上週，OpenAI的一位發言人告訴我他們新成立了“集體對齊”團隊。該團隊的使命是開發結合公眾意見的“原型流程”，以塑造AI模型的行為，目標是實現民主的AI治理。這一倡議基於OpenAI的“民主輸入至AI”資助計劃中十位受助者的工作。

這一消息讓我忍不住輕笑其諷刺之處。OpenAI宣揚「創造對全人類有益的安全AGI」的崇高理想，卻在販售API、擴展GPT商店以及應對版權訴訟的現實中掙扎。達成公眾共識以進行AI治理——這是人類最複雜的問題之一——彷彿一場艱鉅的挑戰。

此時是否為AI代理的正確時機？美國民主面臨前所未有的審視，尤其是在即將到來的2024年選舉中，AI系統成為深偽和虛假信息擔憂的焦點。一個主觀的概念如公眾意見，又該如何影響影響AI的治理規則，特別是對於一個目前在商業AI領域主宰的公司？

儘管如此，OpenAI的集體對齊團隊的存在卻帶來了一絲希望。他們致力於創建一個更民主的AI，透過人類的洞察力來引導。這一目標無疑是重要的。然而，這一倡議是否真摯，還是僅僅是對更大問責呼聲的公關應對，令人深思。

集體對齊團隊的見解

為了深入了解，我訪談了兩名團隊成員：專注於技術社會影響的研究員Tyna Eloundou，以及在負責任的AI部署方面有經驗的產品經理Teddy Lee。他們計劃增加一名研究工程師和科學家，以便與OpenAI的人類數據團隊緊密合作，該團隊負責建立人類輸入AI模型的基礎設施。

當我詢問Eloundou有關為AI治理制定民主流程的挑戰時，她承認許多人將其視為一項“登月計劃”。她指出：“民主本身就是複雜而混亂的，需要不斷地協商其運作方式。”

Lee強調在社會技術複雜性中將民主融入AI系統的艱鉅任務。“我們的資助計劃旨在探索其他創新者在這一領域的努力，”他分享道。“這有些令人畏懼，但仍有許多低垂的果實和洞見等待發掘。”

資助計劃的進展

根據OpenAI最近的部落格文章，“民主輸入至AI”資助計劃向從近千名申請者中挑選的十個不同團隊頒發了10萬美元。這些團隊正在設計和測試建立AI治理的民主方法。他們面臨的挑戰包括如何吸引多元參與者、確保具有代表性的輸出以及促進透明度。

每個團隊都以創新方法應對這些問題，包括設計用於群眾外部審核AI模型的平台和獨特的視頻討論界面。然而，他們很快面臨障礙；公眾意見可能迅速改變，而意見分歧的群體達成共識更是艱難。

儘管面臨這些挑戰，OpenAI的集體對齊團隊仍然堅持不懈。他們與社會科學專家諮詢，特別是參與公民大會——隨機選擇的小組，針對重大公共問題展開討論。

對民主過程的承諾

Lee指出：“我們不知道自己不知道的事情。”資助接受者來自各個領域，為他們的項目注入了興奮和活力。他說：“我們需要將這種熱情與我們的技術相結合。”

團隊的目標是否能實現？Lee解釋道：“這與民主本身相似，是一項持續的努力。隨著公眾觀點的演變和與這些模型的互動變化，我們的工作也會隨之改變。”

Eloundou也表達了相同的想法：“我們一定會全力以赴。”

無論這是否被視為一項公關倡議，任何旨在增強AI決策過程中民主性質的舉措都是值得讚揚的，特別是在此時此刻，這些過程顯得格外脆弱。因此，對於OpenAI：我期待你們的最佳努力。

35.1K

為期權交易者介紹終極波動監控工具：一款全面的跨資產分析工具，旨在提升您的交易策略和決策。隨時掌握各類資產市場波動的即時洞察，幫助您有效把握機會和降低風險。

波動性 AI Analytics Assistant

473.2K

Visily 透過直觀的 AI 驅動線框工具，簡化設計流程。

線框工具 AI Product Description Generator

53.8K

介紹 Shopify 的 Rep AI Home——一款先進的 AI 聊天機器人，旨在提升您的在線購物體驗。憑藉其提供量身定制的協助能力，這個創新的工具確保客戶獲得個性化的推薦和支持，使購物比以往任何時候都更具吸引力和效率。

AI 銷售顧問 AI Advertising Assistant

30K

摘要：SalesMind AI 是一款創新的工具，旨在優化 LinkedIn 潛在客戶開發，提升銷售績效與結果。憑藉其先進的人工智慧功能，SalesMind AI 簡化了尋找與接觸潛在客戶的過程，最終促進更佳的銷售成果。

挖掘潛在客戶 AI Lead Generation

Find AI tools in YBX