Goodfire 籌集 700 萬美元 增強 AI 模型可解釋性
專注於提高生成式 AI 模型可觀察性的初創公司 Goodfire,成功獲得了由 Lightspeed Venture Partners 領投的 700 萬美元種子資金。其他投資者包括 Menlo Ventures、South Park Commons、Work-Bench、Juniper Ventures、Mythos Ventures、Bluebirds Capital 以及多位卓越的天使投資人。
應對「黑箱」困境
隨著生成式 AI 模型(如大型語言模型)的複雜性不斷增長,目前已擁有數千億個參數,這些模型的透明度卻變得更低。這種「黑箱」特性對希望可靠、安全地部署 AI 的開發者和企業構成了重大挑戰。近期的麥肯錫調查顯示,44% 的商業領袖報告了來自未預見模型行為的負面影響。
Goodfire 希望通過一種名為「機械可解釋性」的創新方法來緩解這些挑戰,深入探討 AI 模型的推理和決策過程。
精煉模型行為
Goodfire 的創新工具能夠促進對 AI 模型行為的理解和編輯。Goodfire 的 CEO 兼聯合創始人 Eric Ho 解釋了公司的願景:「我們的工具使生成式 AI 模型的黑箱變得透明,提供一種人性化的界面,闡明模型輸出背後的決策過程。開發者可以揭示模型的內部運作,並調整各概念的權重,從而影響其決策。」
Ho 將這一過程比作對 AI 模型進行神經外科手術,概述了三個關鍵步驟:
1. 繪製腦圖:「類似於神經科學家使用成像技術檢查人腦,我們應用可解釋性技術來識別特定任務、概念和結果所對應的組件。」
2. 視覺化行為:「一旦腦圖繪製完成,我們提供工具幫助開發者輕鬆識別模型中的問題區域。」
3. 進行手術:「掌握這些理解後,用戶可以精確地進行改變以提高性能,類似於神經外科醫生仔細調整特定腦區。這樣,他們能夠增強模型能力,消除問題並修正錯誤。」
這種深入的洞察力將顯著減少昂貴的再訓練或試錯式提示工程的需求,最終簡化 AI 開發過程。
組建頂尖團隊
Goodfire 的團隊由 AI 可解釋性及初創企業擴展方面的專家組成:
- Eric Ho,CEO:曾創立 RippleMatch,一家獲得高盛支持的 B 輪 AI 招聘初創公司。
- Tom McGrath,首席科學家:曾任 DeepMind 的高級研究科學家,負責啟動機械可解釋性團隊。
- Dan Balsam,CTO:共同創立 RippleMatch,領導核心平台和機器學習工作。
曾在 OpenAI 任職的可解釋性專家 Nick Cammarata 強調 Goodfire 的使命意義:「前沿研究與可解釋性方法的實際應用之間存在巨大差距。Goodfire 團隊非常有能力填補這一差距。」
Lightspeed Venture Partners 的合夥人 Nnamdi Iregbulem 對 Goodfire 的未來表示樂觀:「可解釋性在 AI 開發中日益重要。Goodfire 的工具將成為開發者與大型語言模型互動的基本資源。我們很高興能在這一 AI 領域支持 Goodfire。」
未來展望
Goodfire 打算利用這筆資金擴大工程和研究團隊,同時精煉核心技術。公司旨在支持最先進的開放權重模型,增強模型編輯能力,並創建直觀的用戶界面,便利用戶與模型內部進行互動。
作為一家公共利益公司,Goodfire 致力於推進對先進 AI 系統的理解。通過提升 AI 模型的可解釋性和可編輯性,該公司期望促進更安全、更可靠且有益的 AI 技術。
Goodfire 目前正在尋找「以使命驅動,深思熟慮的人才」加入團隊,共同推動 AI 可解釋性的發展。