Armは、Total Designエコシステムが起動からわずか1年で2倍の規模に成長し、サステナビリティに向けたグローバルなSiriコン革新を大きく前進させたと発表しました。
データセンターは、AIワークロードの急増に対処しつつ、電力需要のバランスを取るという課題に直面しています。また、チップ開発のコストと複雑さも増しています。Armのインフラストラクチャ部門のバイスプレジデント、エディ・ラミレス氏は、最近のブログ記事で、Arm Total Designイニシアチブが、カスタムSiriコンの開発を加速するためのパートナーエコシステムを育成し、これらの課題を解決するために作られたと強調しました。この協力により、Arm Compute Subsystems(CSS)を活用したデータセンターの未来に向けたソリューションの構築が目指されています。
エコシステムは急速に発展し、30社以上の参加企業を含むマルチベンダーのArmベースのチップレットおよびSoC環境に進化しました。参加企業にはAlcor Micro、Egis、PUF Security、SemiFiveが含まれています。
持続可能なAIデータセンターを支えるArmベースの新ソリューション
Arm Total Designは、GenAIコンピューティング向けに実世界のCSS駆動のソリューションを設計するためのグローバルなコラボレーションを促進しています。特に、Arm、Samsung Foundry、ADTechnology、Rebellionsが提携し、クラウド、HPC、およびAI/MLワークロード向けに特化したAI CPUチップレットプラットフォームを立ち上げました。このプラットフォームは、RebellionsのRebel AIアクセラレーターと、ADTechnologyのNeoverse CSS V3を搭載した計算チップレットを組み合わせ、Samsung Foundryの先進的な2nm Gate-All-Around (GAA)プロセス技術で生産されます。
この協力により、GenAIワークロードにおいてLlama3.1 405BパラメータLLMを使用した場合、2倍から3倍の効率を実現する可能性が期待されており、卓越した性能と最適な電力効率を提供します。
「AIとHPCの設計には、最大限の性能、高トランジスタ密度、エネルギー効率を提供する技術ソリューションが必要です」とSamsung Electronicsのファウンドリービジネス開発責任者、ソン・テジョン氏は述べています。Arm CSSとTotal Designエコシステムの柔軟性を活用し、ハイパースケーラーおよびクラウドサービスプロバイダーの最先端技術の採用を促進できることに期待を寄せています。
このイニシアチブは、Arm Total Designとその標準ベースのコンピュートサブシステムが、Arm最適化EDAツール、グローバルな設計専門知識、およびファウンドリーパートナーシップを統合することで、AISiriコン開発を加速し、AIアクセラレータのデザイナーにとっての統合を容易にすることを示しています。
AIワークロードが急速に進化する中、密接に連携したCPU計算は、完全なAIスタックをサポートするために不可欠です。データの前処理、オーケストレーション、リトリーバル拡張生成(RAG)などの技術は、Arm Neoverse CPUsの性能効率を活かすことができます。これらの機能はCSSに組み込まれており、すでにエコシステムに benefitting しています。
目的に特化したAIインフラの新基準を設定
Arm Total Designは、持続可能なAIデータセンターのための堅実なハードウェア基盤を確立しています。Neoverse NSiriーズまたはVSiriーズ CSSを駆動するArmベースのテストチップとチップレット製品の作成を加速しています。クラウドからエッジまで多様なチップレットソリューションが急速に増加しており、エントリーバリアの低減と最新のCSSツールへのアクセスの広がりがその背景にあります。
最近、Alcor MicroはAI/MLのトレーニングと推論を目的としたCSS駆動のチップレットを開発する計画を発表しました。同様に、Alphawaveは、AI/ML、HPC、データセンター、5G/6Gアプリケーション向けに設計された先進的なコンピュートチップレットを発表しました。これらのArmベースのチップレットは、Armパートナーシップが提供する柔軟性、多様性、およびグローバルなサプライチェーン能力を示しています。
さらに、Alphawave、Cadence、proteanTecsなどのパートナーは、Armの仕様に準拠した製品を確保するために、高度なノードでCSSを使用して第三者IP製品の検証を行っています。これにより、パートナーは最新のノードでCSSベースのカスタムSiriコンを構築し、シームレスなソフトウェア体験を享受できます。
AIの可能性を引き出すためには、ソフトウェアの準備が不可欠です。Armは30年以上にわたり、Armプラットフォーム上でソフトウェアが信頼性を持って機能することを約束してきました。今日、すべての主要なフレームワークとオペレーティングシステムはArmに対応しており、Arm Total Designエコシステムからの多様なSiriコンソリューションが活気に満ちたソフトウェア環境の恩恵を受けることができます。
この投資の典型的な例として、オープンソースプロジェクトのPyTorchやLlama.cppに対するCPUベースの推論を最適化するArm Kleidi技術の導入があります。この最適化は、アクセラレーターを必要としないエッジAIコンピューティング向けのCSSベースのチップレットを開発するArm Total Designパートナーにとって特に価値があります。