Arm 突出可持续 AI 数据中心硅解决方案生态系统的扩展

Arm宣布其全面设计生态系统在发布一年内规模翻倍,显著推动了全球硅创新以实现可持续发展。

数据中心面临着在AI工作负载激增的情况下平衡电力需求、成本上升和芯片开发复杂性的挑战。在一篇最新的博客文章中,Arm基础设施业务的市场副总裁Eddie Ramirez强调,Arm全面设计倡议旨在通过建立一个合作伙伴生态系统,推动定制硅的发展,从而应对这些问题。该合作旨在利用Arm计算子系统(CSS)构建未来数据中心的解决方案。

该生态系统迅速发展成一个多供应商的Arm基础芯片组件和系统级芯片(SoC)环境,目前已有30多家公司参与,其中包括Alcor Micro、Egis、PUF Security和SemiFive。

新兴的基于Arm的可持续AI数据中心解决方案

Arm全面设计促进了全球合作,推出了针对生成式AI计算的真实世界CSS驱动解决方案。值得一提的是,Arm、三星代工、ADTechnology和Rebellions共同推出了一款面向云计算、高性能计算及AI/机器学习工作负载的AI CPU芯片组件平台。该平台将Rebellions的Rebel AI加速器与ADTechnology的Neoverse CSS V3驱动计算芯片组件结合,利用三星代工的先进2nm全环(GAA)工艺技术进行生产。

此次合作保证了卓越性能和最佳能效,估计使用Llama3.1版本405B参数LLMs的生成式AI工作负载在效率上有2到3倍的优势。

“AI和高性能计算的设计需要高性能、高晶体管密度和能效的技术解决方案,”三星电子代工业务发展负责人Taejoong Song表示。他对利用Arm CSS的灵活性与Arm全面设计生态系统加速超大规模云服务商和云服务提供商采用前沿技术充满期待。

这一倡议展示了Arm全面设计和其基于标准的计算子系统如何通过集成Arm优化的EDA工具、全球设计专业知识和代工伙伴关系,加速AI硅的发展,从而简化AI加速器设计师的集成过程。

随着AI工作负载的快速演变,紧密耦合的CPU计算对于支持完整的AI堆栈变得至关重要。数据预处理、协调和增强技术(如检索增强生成技术)等任务都能利用Arm Neoverse CPU的性能效率。这些能力是CSS的一部分,已经使整个生态系统受益。

为定制AI基础设施树立新标杆

Arm全面设计正在为可持续的AI数据中心建立坚实的硬件基础,加速基于Neoverse N系列或V系列CSS的Arm版本测试芯片和芯片组件的创建。多样化的芯片组件解决方案,涵盖云计算到边缘计算,因减少准入障碍和更广泛的最新CSS工具的使用而快速扩展。

最近,Alcor Micro宣布计划开发一款针对AI/机器学习训练和推理的CSS驱动芯片组件。类似地,Alphawave展示了其基于CSS的先进计算芯片组件,专为AI/机器学习、高性能计算、数据中心及5G/6G应用设计。这些基于Arm的芯片组件展示了Arm合作伙伴独有的灵活性、多样性与全球供应链能力。

此外,Alphawave、Cadence和proteanTecs等合作伙伴正在使用CSS在先进节点上验证其第三方IP产品,以确保符合Arm规范。这意味着合作伙伴可以在最前沿的节点上构建基于CSS的定制硅,并享受无缝的软件体验。

软件的准备状态对于释放AI潜力至关重要。40多年来,Arm致力于确保在Arm平台上的软件稳定运行。如今,所有主流框架和操作系统均与Arm兼容,使Arm全面设计生态系统中的多样化硅解决方案都能受益于充满活力的软件环境。

这一投资的典范是Arm Kleidi技术的推出,它优化了基于CPU的推理,特别是针对像PyTorch和Llama.cpp等开源项目。这一优化对于Arm全面设计合作伙伴开发用于边缘AI计算的基于CSS的芯片组件尤为重要,且无需使用加速器。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles