Elon Muskがテネシー州で世界最強のAIトレーニングクラスタを発表
2023年7月23日、Elon Muskは自社のAIスタートアップ、xAIがテネシー州 メンフィスに世界最強のAIトレーニングクラスタを設置したことをSNSで発表しました。この驚異的なシステムは、昨年から利用可能な100,000基の液冷式NVIDIA H100 GPUで構成されています。
マスクは、このクラスタが単一のRDMA(リモートダイレクトメモリアクセス)アーキテクチャ上で動作し、計算ノード間のデータ転送効率を大幅に向上させ、レイテンシを減少させ、CPUの負荷を軽減することを強調しました。5月には、H100チップを利用したスーパーコンピュータの統合計画を明らかにし、これを「コンピューティングパワーのスーパー工場」と呼び、テスラの「ギガファクトリー」概念に例えました。
xAIは、2024年12月までに「世界で最も強力なAI」を開発することを目指しており、その実現にはメンフィスのスーパークラスタが重要な役割を果たします。しかし、一部の専門家は、このタイムラインに慎重になるよう呼びかけており、マスクが過去の野心的なプロジェクトで期限を守れなかった事例、特に完全自動運転車や人類の火星探査に関連するものを挙げています。
さらに、マスクはテスラが来年、オプティマスロボットの小規模生産を開始し、2026年までには大規模な展開を目指すことを発表しました。この新しいタイムラインは、以前の計画からの変更を示しており、当初は2024年末までにオプティマスの社内利用を開始し、2025年には他社への供給を行う予定でした。
その一方で、MicrosoftとOpenAIのCEOSam Altmanは、AIトレーニング用のスーパーコンピュータ「スターゲート」を共同開発しており、このプロジェクトの価値は最大で1,000億ドルに達する見込みです。もし成功すれば、xAIのメンフィスのスーパークラスタはすぐに世界最強のAIクラスタの座を失うかもしれません。