OpenAI的雄心勃勃計劃：將民主融入AI技術，這是否僅僅是公關手段？

Home AI新聞 OpenAI的雄心勃勃計劃：將民主融入AI技術，這是否僅僅是公關手段？

上週，OpenAI的一位發言人告訴我他們新成立了“集體對齊”團隊。該團隊的使命是開發結合公眾意見的“原型流程”，以塑造AI模型的行為，目標是實現民主的AI治理。這一倡議基於OpenAI的“民主輸入至AI”資助計劃中十位受助者的工作。

這一消息讓我忍不住輕笑其諷刺之處。OpenAI宣揚「創造對全人類有益的安全AGI」的崇高理想，卻在販售API、擴展GPT商店以及應對版權訴訟的現實中掙扎。達成公眾共識以進行AI治理——這是人類最複雜的問題之一——彷彿一場艱鉅的挑戰。

此時是否為AI代理的正確時機？美國民主面臨前所未有的審視，尤其是在即將到來的2024年選舉中，AI系統成為深偽和虛假信息擔憂的焦點。一個主觀的概念如公眾意見，又該如何影響影響AI的治理規則，特別是對於一個目前在商業AI領域主宰的公司？

儘管如此，OpenAI的集體對齊團隊的存在卻帶來了一絲希望。他們致力於創建一個更民主的AI，透過人類的洞察力來引導。這一目標無疑是重要的。然而，這一倡議是否真摯，還是僅僅是對更大問責呼聲的公關應對，令人深思。

集體對齊團隊的見解

為了深入了解，我訪談了兩名團隊成員：專注於技術社會影響的研究員Tyna Eloundou，以及在負責任的AI部署方面有經驗的產品經理Teddy Lee。他們計劃增加一名研究工程師和科學家，以便與OpenAI的人類數據團隊緊密合作，該團隊負責建立人類輸入AI模型的基礎設施。

當我詢問Eloundou有關為AI治理制定民主流程的挑戰時，她承認許多人將其視為一項“登月計劃”。她指出：“民主本身就是複雜而混亂的，需要不斷地協商其運作方式。”

Lee強調在社會技術複雜性中將民主融入AI系統的艱鉅任務。“我們的資助計劃旨在探索其他創新者在這一領域的努力，”他分享道。“這有些令人畏懼，但仍有許多低垂的果實和洞見等待發掘。”

資助計劃的進展

根據OpenAI最近的部落格文章，“民主輸入至AI”資助計劃向從近千名申請者中挑選的十個不同團隊頒發了10萬美元。這些團隊正在設計和測試建立AI治理的民主方法。他們面臨的挑戰包括如何吸引多元參與者、確保具有代表性的輸出以及促進透明度。

每個團隊都以創新方法應對這些問題，包括設計用於群眾外部審核AI模型的平台和獨特的視頻討論界面。然而，他們很快面臨障礙；公眾意見可能迅速改變，而意見分歧的群體達成共識更是艱難。

儘管面臨這些挑戰，OpenAI的集體對齊團隊仍然堅持不懈。他們與社會科學專家諮詢，特別是參與公民大會——隨機選擇的小組，針對重大公共問題展開討論。

對民主過程的承諾

Lee指出：“我們不知道自己不知道的事情。”資助接受者來自各個領域，為他們的項目注入了興奮和活力。他說：“我們需要將這種熱情與我們的技術相結合。”

團隊的目標是否能實現？Lee解釋道：“這與民主本身相似，是一項持續的努力。隨著公眾觀點的演變和與這些模型的互動變化，我們的工作也會隨之改變。”

Eloundou也表達了相同的想法：“我們一定會全力以赴。”

無論這是否被視為一項公關倡議，任何旨在增強AI決策過程中民主性質的舉措都是值得讚揚的，特別是在此時此刻，這些過程顯得格外脆弱。因此，對於OpenAI：我期待你們的最佳努力。

導航網絡安全與人工智慧的交匯點：2024 年你不能錯過的重要預測

AI語音創業公司ElevenLabs獲得8,000萬美元資金，並推出全新克隆聲音市場

Most people like

Photo Eraser

25.3K

輕鬆地從您的照片中刪除不需要的物件，採用我們便捷的技術。

照片編輯 AI Photo Enhancer

Mapify

1.5M

探索我們免費的線上AI驅動思維導圖工具，旨在提升您的頭腦風暴會議並激發創意。這個工具擁有直觀的功能和先進的演算法，幫助您輕鬆地視覺化組織您的想法和觀點。無論您是在規劃專案、概述故事，還是學習複雜主題，我們的思維導圖工具都能簡化您的流程，將混亂的思緒轉化為有條理且可執行的計畫。釋放您想像力的潛能，透過我們易於使用的AI驅動平台提升您的生產力。

人工智慧驅動的心智圖生成器 AI Mind Mapping

Gamma App

14.3M

介紹 Gamma App：這是一款創新的人工智慧驅動工具，旨在輕鬆製作引人注目的簡報、精美的網頁和精緻的文檔。體驗 Gamma App 的內容創作未來，這裡強大的技術與友好的設計完美結合。

人工智慧 AI Content Generator

FlowTunes

46.1K

發現最適合提升專注力和生產力的免費音樂應用程式！擁有適當的旋律，無論是在學習、工作或只是想放鬆，都能創造理想的專注環境。探索我們精心挑選的音樂應用程式，專門設計來幫助您保持專注，最大化效率。讓我們一起進入這個讓您投入並集中注意力的音樂世界吧！

專注音樂應用程式 AI Music Generator

Find AI tools in YBX