AMD의 혁신적인 AI 처리 칩 공개: Instinct MI300X, MI300A 및 Ryzen 8040 시리즈
Advanced Micro Devices(AMD)는 데이터 센터의 AI 처리를 위해 설계된 AMD Instinct MI300X와 MI300A 가속기 칩의 출시를 발표했습니다. CEO 리사 수는 이 혁신을 데이터 센터 행사에서 공개하였습니다. 오는 10월 31일 Q3 애널리스트 콜에서 수는 MI300 라인이 AMD 역사상 가장 빠르게 10억 달러 매출을 기록할 것이라고 자신감을 드러냈습니다.
AI 기반 노트북 혁신: Ryzen 8040 시리즈
MI300 시리즈와 함께 AMD는 AI 기반 노트북을 겨냥한 Ryzen 8040 시리즈 프로세서를 소개했습니다. 또한 AI 작업을 위한 전담 NPU 칩을 강조하며, 2023년에는 수백만 대의 Ryzen 기반 AI PC가 출하되었다고 밝혔습니다.
Drew Prairie AMD 커뮤니케이션 책임자는 “PC에 중요한 순간”이라며 “AI 성능이 현재 시장의 그 어떤 제품보다도 훨씬 뛰어날 것”이라고 언급했습니다.
Ryzen 8040 프로세서는 이전 Ryzen 모델에 비해 1.4배 성능 향상을 약속하며, 이 모델은 2분기부터 출하되고 있습니다. AMD는 차세대 Ryzen 프로세서인 Strix Point를 개발 중이며, 2024년 출시 예정입니다.
AMD Instinct MI300 시리즈: 성능과 혁신
AMD는 Dell Technologies, Hewlett Packard Enterprise, Lenovo, Meta, Microsoft, Oracle, Supermicro와의 파트너십을 통해 협력적인 하드웨어 발전을 보여주었습니다. AMD에 따르면 ROCm 6 오픈 소프트웨어 생태계는 AI 생성용 성능을 여덟 배 향상시키며, 에너지 효율성 또한 개선되었습니다.
AMD Instinct MI300X 가속기는 생성 AI를 위한 업계 최고의 메모리 대역폭을 제공하며, MI300A APU는 고급 CDNA 3 아키텍처와 Zen 4 CPU를 기반으로 CPU와 GPU 기능을 통합합니다. AMD 사장 빅터 펑은 “MI300 시리즈 가속기는 우리의 첨단 기술을 활용하여 클라우드 및 기업 배포를 위한 우수한 성능을 보장합니다”라고 말했습니다.
Microsoft는 AI 작업에 최적화된 Azure ND MI300X v5 가상 머신 시리즈를 발표했으며, 이를 통해 새로운 가속기를 활용하고 있습니다. 또한 로렌스 리버모어 국립 연구소에 MI300A APU가 장착된 El Capitan 슈퍼컴퓨터가 AMD 기술로 구동되는 두 번째 엑사스케일 클래스 슈퍼컴퓨터가 될 것입니다.
대형 언어 모델(LLM)의 복잡성이 증가함에 따라 MI300X는 192GB의 HBM3 메모리와 5.3TB/s의 피크 메모리 대역폭을 제공하여 발전하는 AI 작업의 요구를 충족합니다.
AMD Instinct 플랫폼은 여덟 개의 MI300X 가속기를 포함하여 업계 최고의 1.5TB HBM3 메모리 용량을 갖춘 최첨단 생성 AI 솔루션을 제공합니다. 표준 OCP 디자인을 통해 MI300X 가속기를 기존 AI 솔루션에 원활하게 통합할 수 있어 기업 환경에서의 도입을 촉진합니다.
Nvidia H100 HGX와 비교할 때 AMD Instinct 플랫폼은 BLOOM 176B와 같은 LLM의 추론 실행 시 최대 1.6배의 처리량을 제공하며, 단일 MI300X 가속기로 70B 파라미터 모델인 Llama 2의 추론을 수행할 수 있는 독특한 능력을 갖추고 있습니다.
AMD는 AI 훈련 및 고성능 컴퓨팅을 위한 서버 프로세서와 가속기의 에너지 효율성을 2025년까지 30배 개선할 목표를 가지고 혁신에 박차를 가하고 있습니다.
Ryzen 8040 시리즈: AI 모바일 처리의 선두주자
AI PC의 대규모 출하에 힘입어 AMD는 AI 컴퓨팅 능력을 강화하기 위한 Ryzen 8040 시리즈 모바일 프로세서를 출시했습니다. Ryzen AI 1.0 소프트웨어 스택이 도입되어 개발자들이 미리 훈련된 AI 모델을 Windows 애플리케이션에 쉽게 통합할 수 있도록 지원합니다.
AMD는 2024년 출시 예정인 Strix Point CPU의 모습을 공개하였으며, XDNA 2 아키텍처를 통해 기존 세대보다 AI 컴퓨팅 성능을 세 배 향상시킬 것입니다. 또한 Microsoft와의 협력을 통해 Windows 애플리케이션에 대한 향후 AI 경험을 향상시키고자 합니다.
선택된 8040 모델의 통합 Ryzen AI NPU는 이전 모델에 비해 AI 처리 성능을 최대 1.6배 높입니다. AMD는 Ryzen AI 소프트웨어를 널리 제공하여 사용자가 자신의 AI PC에서 기계 학습 모델을 구축하고 배포할 수 있도록 합니다.
Ryzen 8040 시리즈는 강력한 Ryzen 라인의 최신 제품으로, 2024년 1분기부터 Acer, Asus, Dell, HP, Lenovo, Razer 등 주요 OEM을 통해 제공될 예정입니다. AMD의 SVP이자 GM인 잭 후안은 “우리의 고급 Ryzen AI 기술이 PC 환경을 변화시키며, 다음 세대 AI 사용자 경험을 위한 비할 데 없는 성능을 제공합니다”라고 밝혔습니다.
Ryzen 9 8945HS 모델은 경쟁사에 비해 비디오 편집에서 최대 64% 더 빠른 성능과 3D 렌더링에서 37% 더 빠른 성능을 제공하며, 게이머는 최대 77% 더 빠른 게임 플레이를 즐길 수 있습니다.