Arm hat bekannt gegeben, dass das Total Design-Ökosystem innerhalb eines Jahres nach seinem Start um das Zweifache gewachsen ist und damit die globale Silicon-Innovation für Nachhaltigkeit entscheidend vorantreibt.
Rechenzentren stehen vor anhaltenden Herausforderungen, ihre Energieanforderungen mit dem Anstieg von KI-Workloads in Einklang zu bringen, während gleichzeitig die Kosten und Komplexitäten der Chipentwicklung steigen. In einem aktuellen Blogbeitrag betonte Eddie Ramirez, VP für Go-to-Market im Infrastrukturgeschäft von Arm, dass die Arm Total Design-Initiative ins Leben gerufen wurde, um diese Probleme anzugehen. Ziel ist es, ein Ökosystem von Partnern zu fördern, die sich der schnelleren Entwicklung maßgeschneiderter Siliziumlösungen widmen. Diese Zusammenarbeit hat zum Ziel, Lösungen für die Zukunft von Rechenzentren unter Verwendung von Arm Compute Subsystemen (CSS) zu entwickeln.
Das Ökosystem hat sich rasch zu einer Multi-Vendor-Umgebung für Arm-basierte Chiplets und SoCs entwickelt, die mittlerweile über 30 teilnehmende Unternehmen umfasst, darunter Alcor Micro, Egis, PUF Security und SemiFive.
Nachhaltige Arm-basierte Lösungen für KI-Rechenzentren
Arm Total Design hat eine globale Zusammenarbeit gefördert, die zu realen, CSS-betriebenen Lösungen für GenAI-Computing führt. Arm, Samsung Foundry, ADTechnology und Rebellions haben sich zusammengetan, um eine AI-CPU-Chiplet-Plattform für Cloud-, HPC- und AI/ML-Workloads zu starten. Diese Plattform kombiniert Rebellions’ Rebel AI-Beschleuniger mit einem Neoverse CSS V3-betriebenen Compute-Chiplet von ADTechnology unter Verwendung der fortschrittlichen 2nm Gate-All-Around (GAA) Prozess-Technologie von Samsung Foundry.
Die Zusammenarbeit verspricht außergewöhnliche Leistung und optimale Energieeffizienz, mit einem geschätzten Effizienzvorteil von 2x bis 3x für GenAI-Workloads, die Llama3.1 405B-Parameter-LLMs verwenden. „KI- und HPC-Designs benötigen Technologielösungen, die maximale Leistung, hohe Transistordichte und Energieeffizienz bieten“, erklärte Taejoong Song, Leiter Geschäftsentwicklung bei Samsung Electronics. Er äußerte sein Enthusiasmus, die Flexibilität von Arm CSS zusammen mit dem Arm Total Design-Ökosystem zu nutzen, um den Einsatz modernster Technologien für Hyperscaler und Cloud-Dienstleister zu fördern.
Diese Initiative verdeutlicht, wie Arm Total Design und seine normenbasierten Compute-Subsysteme die Entwicklung von AI-Silizium beschleunigen, indem sie Arm-optimierte EDA-Tools, globale Design-Kompetenz und Foundry-Partnerschaften integrieren und so die Integration für AI-Beschleuniger-Designer erleichtern.
Mit der rasanten Entwicklung von KI-Workloads wird eng gekoppelte CPU-Computing entscheidend, um den vollständigen KI-Stack zu unterstützen. Aufgaben wie Datenvorverarbeitung, Orchestrierung und Datenbankerweiterungstechniken wie Retrieval-augmented Generation (RAG) können alle die Leistungseffizienz der Arm Neoverse CPUs nutzen. Diese Fähigkeiten sind integraler Bestandteil des CSS, das bereits dem Ökosystem zugutekommt.
Neue Standards für speziell entwickelte KI-Infrastruktur setzen
Arm Total Design schafft eine robuste Hardwarebasis für nachhaltige KI-Rechenzentren. Es beschleunigt die Entwicklung von Arm-basierten Test-Chips und Chiplet-Produkten, die von Neoverse N- oder V-Serie CSS betrieben werden. Die breite Palette an Chiplet-Lösungen, von Cloud bis Edge, wächst schnell aufgrund niedrigerer Eintrittsbarrieren und besserem Zugang zu den neuesten CSS-Tools.
Kürzlich kündigte Alcor Micro Pläne zur Entwicklung eines Chiplets an, das von CSS für KI/ML-Training und -Inference betrieben wird. Ähnlich stellte Alphawave sein fortschrittliches Compute-Chiplet vor, das auf CSS für AI/ML, HPC, Rechenzentren sowie 5G/6G-Anwendungen ausgelegt ist. Diese Arm-basierten Chiplets demonstrieren die Flexibilität, Vielfalt und globalen Lieferkettenfähigkeiten, die nur die Arm-Partnerschaft bieten kann.
Darüber hinaus validieren Partner wie Alphawave, Cadence und proteanTecs ihre Third-Party-IP-Produkte mithilfe von CSS auf fortschrittlichen Knoten, um die Konformität mit Arm-Spezifikationen sicherzustellen. Das bedeutet, dass Partner CSS-basiertes maßgeschneidertes Silizium auf modernsten Knoten entwickeln und ein nahtloses Softwareerlebnis genießen können.
Die Softwareverfügbarkeit bleibt entscheidend, um das Potenzial von KI zu entfalten. Seit über 30 Jahren verpflichtet sich Arm, sicherzustellen, dass Software auf Arm-Plattformen zuverlässig funktioniert. Heute sind alle großen Rahmenwerke und Betriebssysteme mit Arm kompatibel, was bedeutet, dass vielfältige Siliziumlösungen aus dem Arm Total Design-Ökosystem von einer dynamischen Softwarelandschaft profitieren können.
Ein herausragendes Beispiel für diese Investition ist die Einführung der Arm Kleidi-Technologie, die die CPU-basierte Inferenz für Open-Source-Projekte wie PyTorch und Llama.cpp optimiert. Diese Optimierung ist besonders wertvoll für Arm Total Design-Partner, die CSS-basierte Chiplets für Edge-KI-Computing entwickeln, ohne einen Beschleuniger zu benötigen.
Rangliste
