OctoAIがOctoStackを発表：企業がプライベートAIモデルを簡単にカスタマイズ・展開できる新しいツール

シアトルを拠点とするOctoAIは、企業がプライベートな生成AIモデルを導入できる「OctoStack」を発表しました。このターンキー型の生産ソリューションは、仮想プライベートクラウドやオンプレミスで利用でき、最適化された推論、モデルカスタマイズ、資産管理などの機能を提供します。OctoAIは、企業が自社のニーズに合わせて生成AIアプリケーションを開発・運用する柔軟性を提供することを目指しています。

「持続可能で未来に適応した生成AIアプリケーションを構築するには、手頃なクラウド推論以上のものが必要です」とOctoAIのCEOルイス・セーゼは述べています。「ハードウェアのポータビリティ、モデルのオンボーディング、ファインチューニング、負荷分散など、フルスタックの課題に対して包括的なソリューションが求められています。」

OctoStackは、MetaのLlamaファミリー、Mistralの8x8B、Stable Diffusionを含むさまざまなオープンソースおよび商業用AIモデルのファインチューニングとデプロイをサポートしていますが、AnthropicのClaudeモデルはクラウド専用で含まれていません。「私たちはクライアントが完全に制御しカスタマイズできる非常に優れたオープンソースモデルを提供しています」とセーゼは付け加えました。

フルマネージドソリューションとセルフマネージドソリューション

この発表は、OctoAIが以前に提供した自己最適化インフラストラクチャサービスに続くものです。セーゼは、クライアントの使用が「1日あたり数十億トークン」に達し、プライベートなデプロイの需要が高まっていることを強調しました。彼はこれを、共有プラットフォームではなくプライベートサーバーでブログをホストすることに例え、企業にとってデータ管理の重要性を述べました。

「企業がAIを取り入れるにつれて、自分たちの管轄外にデータをAPIで送信することへの懸念が高まっています」とセーゼは説明しました。「OctoStackはクライアントにモデルの選択とカスタマイズを可能にしながら、完全にプライベートなAPIを提供します。私たちはインフラを管理し、モデルが信頼でき効率的にGPU上で動作することを保証します。」

OctoAIのフルマネージドソリューションを利用しているクライアントは数百社に上りますが、OctoStackのユーザー数は公表されていません。セーゼは、Apate.ai、Otherside AI、Latitude Games、CapitalAIなど、すでに生成AIツールを試している企業がこの提供の主要なターゲットであることを挙げました。

企業における生成AIの成長ポテンシャル

企業市場には、生成AIの導入に関する大きな機会が存在します。Menlo Venturesの報告によれば、昨年このセクターにおいてクラウドソフトウェアに4000億ドルが投資され、そのうちAIは700億ドル（18％）、生成AIはわずか25億ドル、つまり1％未満を占めています。

「企業における生成AIの現在の使用と関心は高く、CIOの半数以上が正式な導入を計画しています」とAmalgam InsightsのCEOハイウン・パークは指摘しました。「しかし、モデルのカスタマイズやファインチューニングの能力には限界があります。」

Constellation Researchの創設者レイ・ワンは、多くの組織が純粋な生成AIスタックを持たずにマルチベンダー環境を最適化しようとしていると述べ、OctoStackを前向きに評価しました。これは機能を集中化し、デプロイプロセスを簡素化するからです。

OctoAIは、Nvidia、Databricks、SambaNova Systemsなどの新興企業や既存の競合と競争していますが、セーゼはOctoAIの立場に自信を持っています。「この分野はダイナミックであり、競争は激化しますが、私たちのクロステクノロジー最適化への独自の焦点が他社と一線を画しています。それが私たちの企業の基盤です。」