Arm a annoncé que son écosystème Total Design a doublé de taille en seulement un an depuis son lancement, propulsant ainsi l'innovation mondiale des semi-conducteurs pour la durabilité. Les centres de données rencontrent des défis constants pour équilibrer les demandes en énergie face à la montée des charges de travail liées à l'IA, tout en faisant face à la hausse des coûts et des complexités de développement de puces. Dans un article de blog récent, Eddie Ramirez, vice-président de la stratégie de mise sur le marché pour la division Infrastructure d’Arm, a souligné que l'initiative Arm Total Design a été conçue pour aborder ces problématiques en favorisant un écosystème de partenaires voués à accélérer le développement de silicium sur mesure. Cette collaboration vise à élaborer des solutions pour l'avenir des centres de données en utilisant les Sous-Systèmes de Calcul Arm (CSS).
L'écosystème a rapidement évolué vers un environnement multi-vendeurs basé sur des chiplets et SoC Arm, incluant désormais plus de 30 entreprises participantes, parmi lesquelles Alcor Micro, Egis, PUF Security et SemiFive.
Nouvelles Solutions Arm Pour Alimenter Durable Les Centres de Données AI
Arm Total Design a facilité une collaboration mondiale, aboutissant à des solutions CSS conçues pour le calcul GenAI. Notamment, Arm, Samsung Foundry, ADTechnology et Rebellions ont uni leurs forces pour lancer une plateforme de chiplet CPU IA conçue pour les workloads cloud, HPC et AI/ML. Cette plateforme associe l'accélérateur Rebel AI de Rebellions à un chiplet de calcul alimenté par Neoverse CSS V3 d’ADTechnology, utilisant la technologie avancée de production GAA 2 nm de Samsung Foundry.
Cette collaboration promet des performances exceptionnelles et une efficacité énergétique optimale, avec un avantage d'efficacité estimé entre 2x et 3x pour les workloads GenAI utilisant des LLMs Llama3.1 405B paramètres. “Les conceptions IA et HPC nécessitent des solutions technologiques offrant des performances maximales, une densité de transistors élevée et une efficacité énergétique," a déclaré Taejoong Song, responsable du développement commercial chez Samsung Electronics. Il a exprimé son enthousiasme à tirer parti de la flexibilité de Arm CSS en plus de l'écosystème Arm Total Design pour favoriser l'adoption de technologies de pointe par les hyperscalers et les fournisseurs de services cloud.
Cette initiative illustre comment Arm Total Design et ses sous-systèmes de calcul basés sur des normes accélèrent le développement du silicium IA en intégrant des outils EDA optimisés pour Arm, une expertise mondiale en conception et des partenariats avec des fonderies, facilitant ainsi l'intégration pour les concepteurs d'accélérateurs IA.
À mesure que les workloads IA évoluent rapidement, une computation CPU étroitement intégrée devient essentielle pour soutenir l'intégralité de la pile IA. Des tâches telles que le prétraitement des données, l'orchestration et les techniques d'augmentation de bases de données, telles que la génération améliorée par récupération (RAG), peuvent toutes tirer parti de l'efficacité des CPU Arm Neoverse. Ces capacités sont intégrées aux CSS, dont l'écosystème bénéficie déjà.
Établir un Nouveau Standard pour l'Infrastructure AI Sur Mesure
Arm Total Design établit une base matérielle robuste pour des centres de données IA durables. Il accélère la création de puces test basées sur Arm et de produits chiplet alimentés par les CSS Neoverse N-series ou V-series. La variété de solutions chiplet, allant du cloud à l'edge, s'élargit rapidement grâce à la réduction des barrières d'entrée et à un accès élargi aux derniers outils CSS.
Récemment, Alcor Micro a annoncé des plans pour développer un chiplet alimenté par CSS destiné à l'apprentissage et à l'inférence AI/ML. De même, Alphawave a dévoilé son chiplet de calcul avancé basé sur CSS conçu pour l'AI/ML, HPC, les centres de données et les applications 5G/6G. Ces chiplets basés sur Arm montrent la flexibilité, la diversité et les capacités de chaîne d'approvisionnement mondiale que seul le partenariat avec Arm peut offrir.
De plus, des partenaires tels qu'Alphawave, Cadence et proteanTecs valident leurs produits IP tiers utilisant CSS sur des nœuds avancés pour garantir la conformité aux spécifications d'Arm. Cela signifie que les partenaires peuvent créer des silicium personnalisés basés sur CSS sur des nœuds de pointe tout en bénéficiant d'une expérience logicielle fluide.
La préparation logicielle reste cruciale pour libérer le potentiel de l'IA. Depuis plus de 30 ans, Arm s'engage à garantir que le logiciel sur les plateformes Arm fonctionne de manière fiable. Aujourd'hui, tous les principaux frameworks et systèmes d'exploitation sont compatibles avec Arm, permettant à une variété de solutions silicium issues de l'écosystème Arm Total Design de bénéficier d'un paysage logiciel dynamique.
Un exemple phare de cet investissement est l'introduction de la technologie Arm Kleidi, qui optimise l'inférence basée sur CPU pour des projets open source comme PyTorch et Llama.cpp. Cette optimisation est particulièrement précieuse pour les partenaires d'Arm Total Design développant des chiplets basés sur CSS pour le calcul IA à la périphérie, sans avoir besoin d'un accélérateur.
Classement
