企業がAI技術を積極的に導入する中で、重要な課題に直面しています。それは、各タスクに最適なAIモデルを選びつつ、パフォーマンスとコストのバランスを取ることです。この問題に対する革新的な解決策として「モデルルーティング」が登場し、企業がAIの効率を最大化することを可能にしています。
モデルルーティングのメリット
モデルルーティング技術により、企業は各クエリごとに最適なAIモデルを動的に選択できるようになります。このアプローチは、単一の汎用モデルに依存するよりも性能を向上させ、大幅にコストを削減するのに役立ちます。
Martian：AIモデルルーティングの先駆者
この分野で注目されているスタートアップの一つがMartianです。Martianは、先進的な大規模言語モデル（LLM）ルーターを開発し、主要なテクノロジー企業の関心を集めています。最近、グローバルなプロフェッショナルサービス会社であるアクセンチュアがMartianへの投資を発表し、企業AI戦略におけるモデルルーティングの重要性が高まっていることを示しました。
アクセンチュアはMartianを自社のスイッチボードサービスに統合し、企業がモデル選択を支援します。2023年11月にステルスモードからの発表以来、Martianは技術を進化させ続けており、ルーティングプラットフォームの一部として新しいAIモデルコンプライアンス機能を導入しました。
動的ルーティングの力
従来のスイッチボードはモデル選択を支援してきましたが、Martianの動的ルーティングにより、タスクごとだけではなく、各クエリに対して最適なモデルを自動で選択できるようになります。「これにより、コストを抑えつつ、パフォーマンスを向上させることが可能です。常に単一のモデルを使用する必要がなくなるからです」と、Martianの共同創設者であるシュリヤッシュ・ウパディヤイは説明しています。
アクセンチュアのチーフAIオフィサーであるラン・グアンは、クライアントの多くが生成AIを活用したいと考えている一方で、パフォーマンスとコストを考慮する必要があると指摘します。「アクセンチュアのスイッチボードサービスとMartianの動的LLMルーティングの協力により、ユーザー体験が向上し、企業が独自のニーズに合った生成AIを探索できるようになります」とグアンは述べています。
MartianによるAIクエリルーティングの最適化
Martianのモデルルーターは各クエリに対して最適なAIモデルを巧みに選定し、モデルの動作を予測するためのコア技術を活用します。ウパディヤイは、「私たちはこれらのモデルの内部を理解することに注力しています。モデルには自身の動作を予測するための情報が含まれているのです」と述べています。
このアプローチにより、Martianはコスト、出力品質、レイテンシーなどの要素を最適化したモデルを特定できます。モデルの圧縮、量子化、蒸留、特化モデルなどの技術を用いることで、フルモデルを実行せずにこれらの予測を行い、静的なモデルオプションと比較してパフォーマンスを向上させ、コストを削減することができます。
企業AIにおけるモデルルーティングの重要性
ビジネスの原則として最適なツールを使用することは広く理解されていますが、多くの企業が様々なAIモデルの選択肢を十分に認識していないことが課題となっています。ウパディヤイは、「多くの大企業では、利用可能な専門モデルの幅広さについて認識がないことがよくあります」と述べています。
AIモデルを効果的に活用するためには、成功の指標を明確に定義することが重要です。企業は何が成功を定義するのか、特定のアプリケーションのための主要目的を特定する必要があります。コスト最適化と投資対効果も等しく重要です。ウパディヤイによれば、モデルルーティングはこれらのニーズを効果的に解決します。
コンプライアンスも企業にとっての課題ですが、Martianは新しいコンプライアンス機能を通じてこれに取り組んでいます。この機能により、企業はAIモデルの審査と承認を行い、コンプライアンスポリシーを確立するための自動システムを利用することができます。
エージェントAIにおけるモデルルーティングの変革
モデルルーティングは、複数のモデルやアクションを連鎖させて目標を達成するエージェントAI分野において重要な役割を果たします。エージェントワークフローの各ステップは前のステップに依存しているため、エラーは累積します。Martianの動的ルーティングは、各段階で最も適切なモデルを適用し、高精度を維持します。「エージェントはルーティングの有力な利用ケースです。各ステップでの精度が重要で、失敗の連鎖を避けるために欠かせません」とウパディヤイは結論付けています。
ランキング
