Arm은 자사의 Total Design 생태계가 출시 1년 만에 두 배로 성장하여 지속 가능한 글로벌 실리콘 혁신을 크게 발전시켰다고 발표했습니다. 데이터 센터는 AI 워크로드의 급증과 함께 전력 수요 균형을 맞추는 데 지속적인 어려움에 직면하고 있으며, 칩 개발의 비용 상승과 복잡성 문제도 있습니다. Arm 인프라 사업부의 시장 진출 부사장인 에디 라미레즈는 최근 블로그 포스트에서 Arm Total Design 이니셔티브가 이러한 문제를 해결하기 위해 맞춤형 실리콘 개발을 가속화하는 파트너 생태계를 조성하기 위해 만들어졌다고 강조했습니다. 이 협력은 Arm 컴퓨트 서브시스템(CSS)을 활용해 미래 데이터 센터를 위한 솔루션 구축을 목표로 합니다.
이 생태계는 빠르게 다중 벤더, Arm 기반 칩렛 및 SoC 환경으로 변화했으며, 현재는 Alcor Micro, Egis, PUF Security, SemiFive를 포함한 30개 이상의 참여 기업이 있습니다.
지속 가능한 AI 데이터 센터를 지원하는 새로운 Arm 기반 솔루션
Arm Total Design은 글로벌 협업을 촉진하여 GenAI 컴퓨팅을 위해 설계된 실제 CSS 기반 솔루션을 탄생시켰습니다. 특히, Arm, 삼성 파운드리, ADTechnology, Rebellions가 협력하여 클라우드, HPC, AI/ML 워크로드에 맞춘 AI CPU 칩렛 플랫폼을 출시했습니다. 이 플랫폼은 Rebellions의 Rebel AI 가속기와 ADTechnology의 Neoverse CSS V3 기반 컴퓨트 칩렛을 결합하며, 삼성 파운드리의 첨단 2nm Gate-All-Around(GAA) 공정 기술을 이용해 생산됩니다.
이 협업은 뛰어난 성능과 최적의 전력 효율성을 약속하며, Llama3.1 405B 파라미터 LLMs를 사용하는 GenAI 워크로드에서 2배에서 3배의 효율성을 예상합니다. 삼성전자 파운드리 사업 개발 담당 태정 송은 "AI와 HPC 설계는 최대 성능, 높은 트랜지스터 밀도 및 에너지 효율성을 제공하는 기술 솔루션이 필요하다"고 말하며 Arm CSS와 Arm Total Design 생태계를 활용하여 하이퍼스케일 및 클라우드 서비스 제공업체를 위한 최첨단 기술 채택을 강화할 수 있다며 기대를 표했습니다.
이 이니셔티브는 Arm Total Design과 그 표준 기반 컴퓨트 서브시스템이 Arm 최적화 EDA 도구, 글로벌 설계 전문성, 파운드리 파트너십을 통합하여 AI 실리콘 개발을 가속화하는 방법을 보여줍니다.
AI 워크로드의 빠른 진화에 따라 긴밀하게 연결된 CPU 컴퓨트는 AI 스택 전체를 지원하는 데 필수적입니다. 데이터 사전 처리, 오케스트레이션, 검색 증강 생성(RAG)과 같은 데이터베이스 증강 기법은 Arm Neoverse CPU의 성능 효율을 활용할 수 있습니다. 이러한 기능은 CSS의 중요한 요소로, 이미 생태계에 혜택을 주고 있습니다.
목적 기반 AI 인프라의 새로운 기준 설정
Arm Total Design은 지속 가능한 AI 데이터 센터를 위한 강력한 하드웨어 기반을 구축하고 있습니다. Neoverse N 시리즈 또는 V 시리즈 CSS로 구동되는 Arm 기반 테스트 칩 및 칩렛 제품의 생성을 가속화하고 있습니다. 클라우드에서 엣지까지 다양한 칩렛 솔루션이 진입 장벽 감소와 최신 CSS 도구에 대한 광범위한 접근 덕분에 빠르게 확장되고 있습니다.
최근 Alcor Micro는 AI/ML 훈련 및 추론을 목표로 하는 CSS 기반 칩렛 개발 계획을 발표했습니다. 비슷하게, Alphawave는 AI/ML, HPC, 데이터 센터, 5G/6G 애플리케이션을 위해 설계된 CSS 기반의 고급 컴퓨트 칩렛을 공개했습니다. 이러한 Arm 기반 칩렛은 Arm 파트너십이 제공할 수 있는 유연성, 다양성 및 글로벌 공급망 역량을 선보입니다.
또한 Alphawave, Cadence, proteanTecs 같은 파트너들은 ARM 사양 준수를 보장하기 위해 고급 노드에서 CSS를 사용하는 제3자 IP 제품을 검증하고 있습니다. 이를 통해 파트너들은 최첨단 노드에서 CSS 기반 맞춤형 실리콘을 구축하고 원활한 소프트웨어 경험을 누릴 수 있습니다.
소프트웨어 준비는 AI의 잠재력을 발휘하는 데 중요합니다. Arm은 30년 이상 Arm 플랫폼에서 소프트웨어가 신뢰성 있게 작동하도록 보장하는 데 전념해왔습니다. 현재 모든 주요 프레임워크와 운영 체제가 Arm과 호환되어 Arm Total Design 생태계의 다양한 실리콘 솔루션이 활발한 소프트웨어 생태계의 혜택을 누릴 수 있습니다.
이 투자 사례의 주요 예로는 Arm Kleidi 기술의 도입이 있습니다. 이는 PyTorch 및 Llama.cpp와 같은 오픈소스 프로젝트에 대한 CPU 기반 추론을 최적화합니다. 이 최적화는 가속기 없이 엣지 AI 컴퓨팅을 위한 CSS 기반 칩렛 개발을 하는 Arm Total Design 파트너에게 특히 가치가 있습니다.