Nvidia、Microsoft AzureでAIファウンドリーサービスを発表 - 新型Nemotron-3 8Bモデルを搭載

Nvidiaは、Microsoftとの共同販売戦略を強化し、企業やスタートアップがAzureクラウド上でカスタムAIアプリケーションを開発できるAIファウンドリーサービスを導入した。このサービスは、企業データをリトリーバル強化生成（RAG）を通じて活用する。

Nvidiaの創業者兼CEO、ジェンセン・ファン氏は、「NvidiaのAIファウンドリーサービスは、弊社の生成AI技術、LLMトレーニングの専門知識、そしてMicrosoft Azureに基づく広範なAIファクトリー機能を統合しています。これにより、世界中の企業が独自のモデルをMicrosoftの一流クラウドサービスと接続できるようになります」と述べている。

NvidiaのAzure向けAIファウンドリーサービスの主な特長

NvidiaのAzure上にあるAIファウンドリーサービスにより、企業はカスタマイズされた生成AIアプリケーションを開発するために必要なすべてのコンポーネントを一元的に利用できます。この包括的なサービスには、NvidiaのAI基盤モデル、NeMoフレームワーク、Nvidia DGXクラウドのスーパーコンピューティングリソースへのアクセスが含まれています。

Nvidiaのエンタープライズコンピューティング部門副社長、マヌビール・ダス氏は、「企業は初めて、必要なコンポーネントをハードウェアからソフトウェアまで一貫してMicrosoft Azure上で利用できるようになります。顧客はNvidiaを通じて生成AIワークフロー全体をAzure上でシームレスに実行できます」と語っています。

Nvidiaは、ヘルスケア、通信、金融などの分野向けの高度なチャットおよびQ&Aアプリケーションに対応する新しいNemotron-3 8Bモデルを発表します。これらのモデルは多言語対応で、Azure AIモデルカタログやHugging Face、NvidiaのNGCカタログを通じて利用可能です。

他の基盤モデルとして、Llama 2、Stable Diffusion XL、Mistral 7bなどもAzureと統合される予定です。ユーザーは好みのモデルを選んだ後、Nvidia DGX CloudとAI Enterpriseソフトウェアを利用して、Azureマーケットプレイスを通じてカスタムアプリケーションのトレーニングとデプロイメントを行います。DGX Cloudは、トレーニングに必要なNVIDIA Tensor Core GPUを最大数千個まで活用できるスケーラブルなインスタンスを提供し、LLMカスタマイズを効率化するAI Enterpriseツールキットも搭載しています。

Oracleとのパートナーシップと早期採用者

NvidiaはOracleとも提携しており、対象となる企業はOracle Cloud Marketplaceからツールを購入し、Oracle Cloud Infrastructure (OCI)上でのモデルトレーニングが可能になります。現在、Azure上のファウンドリーサービスの初期導入者には、SAP、Amdocs、Getty Imagesが含まれており、さまざまなユースケース向けにカスタムAIアプリケーションを開発中です。

NvidiaとMicrosoftのパートナーシップの拡大

生成AIサービスに加え、MicrosoftはAzure向けの新しいNC H100 v5仮想マシンを発表しました。これらの革新的なクラウドインスタンスは、Nvidia NVLinkを介して接続されたデュアルPCIeベースのH100 GPUを搭載しており、約4ペタフロップのAI計算能力と188GBの高速HBM3メモリを提供します。

NvidiaのH100 NVL GPUは、前モデルと比較してGPT-3 175Bにおいて最大12倍の性能向上を実現しており、推論や一般的なトレーニング作業に最適です。さらに、Nvidiaは来年、Azureに新しいH200 Tensor Core GPUを導入予定で、141GBのHBM3eメモリと4.8 TB/sのピークメモリ帯域幅を提供し、大規模なAIワークロードに最適化されます。

Windowsデバイス向けのAIアップデート

Nvidiaは、WindowsデバイスでのLLM操作を向上させるために、Mistral 7BやNemotron-3 8Bなどの新しい大規模言語モデルをサポートするTensorRT LLM for Windowsなどいくつかの更新を発表しました。今月末にリリース予定のこのアップデートは、デスクトップやGeForce RTX 30および40SiriーズGPUを搭載したノートパソコンでのモデル実行を大幅に加速させます。

加えて、TensorRT-LLMはOpenAIのChat APIとの互換性があり、新しいラッパーを介して、RTXを搭載したWindows 11 PCで多くの開発プロジェクトをローカルで実行できるようになり、クラウド依存を解消します。