ディープインフラ、8百万ドルの資金調達で隠密活動を終了し、AI推論のコスト効率を向上させるために始動

ジェネレーティブAIの活用法：ビジネスリーダーのためのガイド

企業のリーダーやITの意思決定者として、ジェネレーティブAIに関する議論であふれかえっていることに気づくかもしれません。従業員や顧客向けに大規模言語モデル（LLM）チャットボットを導入する準備が整ったなら、重要な疑問が浮かびます。どのように導入すればよいのか、そして予想されるコストはどれくらいでしょうか？

DeepInfraの紹介

DeepInfraは、元IMO Messengerのエンジニアによって設立され、ビジネスリーダーがこのプロセスを簡略化することを目指しています。この会社は、プライベートサーバー上にモデルをデプロイするサービスを提供しており、料金は1百万トークンあたりわずか1ドルです。これはOpenAIのGPT-4 Turboの10ドルやAnthropicのClaude 2の11.02ドルに比べてかなり低価格です。

最近、DeepInfraはステルスからの立ち上げを発表し、A.CapitalとFelicisが主導する800万ドルのシードラウンドを完了しました。彼らは、MetaのLlama 2やCodeLlamaを含むオープンソースモデルの推論スイートを提供し、これらのモデルのカスタマイズバージョンにも注力しています。

DeepInfraの価値提案

LLMのトレーニングに必要なGPUリソースに多くの注意が向けられていますが、信頼性のあるパフォーマンスに必要な十分なコンピュートパワー（推論）の重要性は強調しきれません。CEOのニコラ・ボリソフ氏によれば、実際の課題は、同じハードウェア上で複数の同時ユーザーに効率的にサービスを提供することです。

「ポイントは、サーバーに同時にアクセスする複数のユーザーを管理することです。これらのモデルが生成する各トークンは、かなりの計算力とメモリ帯域幅を必要とします」とボリソフ氏は説明します。最適なパフォーマンスを確保するには、企業は冗長な計算タスクでサーバーが過負荷にならないよう、効率を最大限に高めることに焦点を合わせる必要があります。

トップ投資家からの支持

ボリソフ氏と共同創業者は、そのプログラミング能力で認識されています。著名な起業家でFelicisのマネージングパートナーであるアイディン・センカット氏は、彼らの能力を称賛し、「彼らは素晴らしい経験を持っており、数億人にサービスを提供する効率的なインフラ構築において、WhatsAppチームに次ぐ存在かもしれません」と述べています。

このインフラの効率性により、DeepInfraはコストの低いサービスを提供でき、多くの企業がAI関連のコスト上昇に直面する中で魅力的な選択肢となります。センカット氏は、「企業がAIで10倍のコスト優位を確保できれば、市場を大きく変革できる」と指摘しています。

中小企業を対象としたオープンソースAI

DeepInfraの初期焦点は、コスト効果の高い最新のオープンソース言語および機械学習モデルへのアクセスを求める中小企業（SMB）に向けられています。「私たちのターゲット顧客は、予算を超えない範囲で高品質なモデルへの信頼できるアクセスを求めています」とボリソフ氏は言います。

同社は、テキスト生成からコンピュータビジョン、コーディングなどのさまざまなタスクに特化した新しいモデルを進んで取り入れるため、オープンソースAIコミュニティの進展を注意深く監視しています。

ボリソフ氏は、オープンソースソリューションの成長と多様性について信じています。「Llamaのようなモデルが公開されることで、多くが最小限の計算要求で独自のバリエーションを作成し、協力的なエコシステムを育むでしょう」。

プライバシーとセキュリティ

DeepInfraの推論ホスティングサービスは、データプライバシーを重視する企業に特に魅力的です。「私たちは、提出されたプロンプトを保存したり利用したりしません; ユーザーセッションが終了すると同時に廃棄されます」とボリソフ氏は強調し、プライバシーへの取り組みを説明しています。

DeepInfraのサービスを活用することで、企業はジェネレーティブAIソリューションの導入に伴う複雑さを効率的かつコスト効果の高い方法で克服し、急速に進化する環境で競争力を保つことができます。