揭示人工智慧安全討論中的缺失環節

Home AI新聞揭示人工智慧安全討論中的缺失環節

鑑於OpenAI近期的發展，圍繞AI的討論已轉向根本性的辯論：我們應該加速或減緩AI的發展？如何使AI工具與人類的需求對齊？這場對話的一個重要方面是追求人工通用智慧（AGI）——一種能執行任何人類任務的AI。這一追求引發了關鍵問題：AGI真的能實現嗎？

雖然討論AGI至關重要，但卻忽略了一個核心挑戰：AI的高成本。

AI需要人才、數據與可擴展性

網際網路革命使軟體民主化，降低了主要基於技能的進入門檻。然而，AI的進展主要是通過擴大規模來實現，這需要大量的計算能力。因此，主要科技公司正投入數十億購置GPU並優化計算基礎設施。為了構建有效的AI，組織需要獲得人才、數據和可擴展的計算資源。這些資源的需求迅速上升，形成一個只有少數實體能夠負擔的競爭格局。大多數國家、個人和小型企業缺乏財務能力，面臨著不僅在模型訓練上，還在部署上高昂的成本。

讓AI更普及

最近Coatue的研究表明，GPU需求剛剛開始激增，可能會對我們的電力系統造成壓力，並提高伺服器成本。隨著這些系統的演變，其能力只會進步，但在缺乏創新解決方案的情況下，資源消耗將日益增加。目前，只有財務雄厚的公司才能開發AI能力，這引發了顯著風險。對AI的集中方式引發擔憂：若單一模型失敗或出現治理問題，會對許多依賴的企業產生重大影響。依賴於給出概率性結果的系統增加了風險，因為模型可能產生不可預測的結果，複雜了信賴與管理。

集中化的危險

集中化帶來安全風險：組織會優先考慮自身利益，增加解決安全或風險問題的困難。在一個AI成本高昂、獲取困難的世界裡，現有的不平等可能擴大，造成有能力接觸先進AI的人與無法接觸的人之間的鴻溝。

為了安全地提升AI的益處，我們必須降低大規模AI部署的成本，這需要多元化投資，擴大對計算資源和人才的獲取。數據所有權也將在AI的可獲得性上發揮關鍵作用，越獨特且高質量的數據，AI的價值和實用性就越高。

讓AI更普及

儘管現有的開源模型顯示出性能差距，但預期它們的使用將增長，尤其是如果有支持性政策出台的話。許多模型可以針對特定應用進行優化，為企業創建適合各行業的有效路由邏輯和編排層鋪平道路。利用開源模型可以實現多模型的做法，增強控制力，儘管存在性能差異。我們可能會看到一個未來，較小的優化模型處理較不複雜的任務，而更複雜的模型解決複雜問題。例如，對於基礎的客戶服務查詢，使用一千億參數的模型是多餘的。

為了發揮AI的潛力，我們必須從展示和合作過渡到可擴展和可持續的AI部署。新興公司正通過實現跨模型多路復用並通過專業技術降低推理成本來應對這一挑戰。對這些領域的投資增加對於推動實質進展至關重要。

通過讓AI更具成本效益，我們可以邀請更多利益相關者入行，增強AI工具的可靠性和安全性。最終，這與我們集體的願望相一致，旨在為更廣泛的受眾帶來價值。

在草堆中尋找針：企業識別實用生成式 AI 應用案例的安全策略

Stability AI 推出高效緊湊的 16 億語言模型：創新新時代的開端