Goodfire、AIモデルの解釈性向上に向けて700万ドルを調達
生成AIモデルの可観測性を高めることに特化したスタートアップGoodfireは、Lightspeed Venture Partners主導のもと、700万ドルのシード資金を成功裏に調達しました。他の出資者には、Menlo Ventures、South Park Commons、Work-Bench、Juniper Ventures、Mythos Ventures、Bluebirds Capital、そして複数の著名なエンジェル投資家が含まれています。
“ブラックボックス”の課題に挑む
大規模な言語モデル（LLM）などの生成AIモデルは、数百億のパラメータを持つほどに複雑化するため、その内部はますます不透明になります。この“ブラックボックス”特性は、AIを信頼性高く安全に展開しようとする開発者や企業にとって重大な障害となっています。最近のマッキンゼーの調査では、44%のビジネスリーダーが予期しないモデルの挙動から悪影響を受けたと報告しています。
Goodfireは、AIモデルがどのように推論し、意思決定を行うかを細かく探る「機械論的解釈性」という革新的なアプローチでこれらの課題に対処しようとしています。
モデルの挙動を洗練する
Goodfireの革新的なツールは、AIモデルの挙動を理解し、編集する手助けをします。CEOで共同創設者のエリック・ホは、次のように説明しています。「私たちのツールは生成AIモデルのブラックボックスを透明化し、モデルの出力の背後にある意思決定プロセスを明確に示す人間が読みやすいインターフェースを提供します。開発者はモデルの内部構造にアクセスし、さまざまな概念の重要性を調整して、意思決定に影響を与えることができます。」
ホはこのプロセスをAIモデルへの神経外科手術に例え、次の三つの重要なステップを説明します：
1. 脳のマッピング: 「神経科学者が人間の脳を調べるためにイメージングを使用するのと同様に、私たちは解釈技術を適用して特定のタスク、概念、成果に対応する要素を特定します。」
2. 挙動の可視化: 「脳がマッピングされた後は、開発者がモデル内の問題を簡単に特定できるツールを提供します。」
3. 手術の実施: 「この理解を持って、ユーザーは性能を向上させるために正確な変更を実施できます。これにより、モデルの能力を高め、問題を排除し、バグを修正できます。」
このレベルの洞察は、高額な再トレーニングや試行錯誤的なプロンプトエンジニアリングの必要性を大幅に削減し、AI開発を効率化します。
優れたチームの編成
Goodfireのチームは、AIの解釈性とスタートアップのスケーリングの専門家で構成されています。
- エリック・ホ（CEO）: 以前は、ゴールドマン・サックスが支援するSeries BのAI採用スタートアップRippleMatchを設立。
- トム・マクグラス（チーフサイエンティスト）: 元DeepMindのシニア研究科学者で、機械論的解釈性チームを立ち上げた。
- ダン・バルサム（CTO）: RippleMatchの共同設立者で、コアプラットフォームと機械学習の取り組みをリード。
元OpenAIの解釈性専門家ニック・カマラタは、Goodfireの使命の重要性を強調しています。「先端研究と解釈性手法の実用化との間には重要なギャップが存在します。Goodfireチームはこのギャップを埋めるために最適な位置にあります。」
Lightspeed Venture Partnersのパートナー、ナンディ・イレグブレムは、Goodfireの未来に対して楽観的です。「解釈性はAI開発において不可欠になっています。Goodfireのツールは、開発者がLLMと対話する方法を根本的に革新する基盤となるでしょう。この重要なAI分野をサポートできることを楽しみにしています。」
将来の展望
Goodfireは、資金を活用してエンジニアリングと研究チームを拡充し、コア技術を洗練していく予定です。最新のオープンウエイトモデルをサポートし、モデル編集機能を強化し、モデルの内部と対話するための直感的なユーザーインターフェースを構築することを目指しています。
公共利益法人としてのGoodfireは、高度なAIシステムの理解を深めることに尽力しています。AIモデルの解釈性と編集性を向上させることで、安全で信頼性の高いAI技術の発展を促進することを目指しています。Goodfireは現在、「使命に駆動された思慮深い人々」を募集し、AI解釈性の進化に貢献することを期待しています。
ランキング
