Nvidia의 DGX SuperPOD: 조단위 파라미터 AI 모델을 지원하는 강력한 힘을 unleashing합니다.

Home AI 뉴스 Nvidia의 DGX SuperPOD: 조단위 파라미터 AI 모델을 지원하는 강력한 힘을 unleashing합니다.

엔비디아는 GTC 컨퍼런스에서 DGX 슈퍼포드의 출시를 통해 가장 강력한 시스템을 선보였습니다. 이 최첨단 시스템은 포괄적인 하드웨어 및 소프트웨어 롤아웃의 일환입니다.

최근 몇 년 동안 DGX는 엔비디아의 서버 및 클라우드 서비스에서 중요한 역할을 해왔습니다. 새로운 DGX 슈퍼포드는 AI 가속을 위한 차세대 GPU인 블랙웰을 장착하고 있으며, 이는 호퍼 GPU의 후계자로 소개되고 있습니다. 블랙웰은 조정 파라미터가 조밀한 AI 모델을 지원하도록 설계되었습니다.

DGX 슈퍼포드란?

DGX 슈퍼포드는 단일 서버가 아닌, 여러 DGX GB200 시스템으로 구성된 강력한 플랫폼입니다. 각 시스템은 36개의 엔비디아 GB200 슈퍼칩을 포함하며, 36개의 엔비디아 그레이스 CPU와 72개의 엔비디아 블랙웰 GPU가 통합되어 있습니다. 모든 구성 요소는 5세대 엔비디아 NVLink로 연결되어 있습니다. 이 슈퍼컴퓨터 플랫폼은 8대 이상의 DGX GB200 시스템으로 확장 가능하며, 수만 개의 GB200 슈퍼칩이 엔비디아 퀀텀 인피니밴드로 연결됩니다.

시스템은 대규모 언어 모델(LLM) 훈련과 생성 AI 추론을 위한 240테라바이트의 메모리를 자랑하며, 11.5 엑사플롭스의 AI 슈퍼컴퓨팅 파워를 제공합니다.

고급 네트워킹 및 처리

DGX 슈퍼포드의 주요 특징은 통합 컴퓨팅 패브릭으로, 새로운 엔비디아 퀀텀-X800 인피니밴드 네트워킹 기술을 통해 GPU당 최대 1,800 기가바이트의 대역폭을 제공합니다. 시스템은 엔비디아 블루필드-3 데이터 처리 장치(DPU)와 5세대 NVLink도 통합하고 있습니다.

또한, DGX 슈퍼포드는 4세대 엔비디아 확장 가능한 계층 집계 및 축소 프로토콜(SHARP) 기술을 포함하여, 14.4 테라플롭스의 네트워크 내 컴퓨팅을 제공합니다. 이는 이전 모델보다 4배 향상된 수치입니다.

엔비디아 DGX 클라우드의 블랙웰

GB200 기반의 DGX 시스템은 곧 엔비디아의 DGX 클라우드 서비스를 통해 제공될 예정이며, 처음에는 아마존 웹 서비스(AWS), 구글 클라우드 및 오라클 클라우드와 같은 주요 플랫폼에서 이용 가능할 것입니다.

엔비디아의 HPC 및 하이퍼스케일 부문 부사장인 이안 벅(Ian Buck)은 "DGX 클라우드는 클라우드 협력 파트너와 협력하여 AI 연구 및 고객을 위해 최고의 엔비디아 기술을 제공하도록 설계되었습니다."라고 전했습니다. 새로운 GB200 아키텍처는 AWS와 함께 개발 중인 세계 최대의 공공 클라우드 슈퍼컴퓨터인 프로젝트 세이바(Project Ceiba)를 향상시킵니다.

벅은 "프로젝트 세이바는 진화하여 이제 20,000개의 GPU를 지원하는 그레이스 블랙웰 아키텍처로 업그레이드되었습니다. 이를 통해 400 엑사플롭스 이상의 AI 처리가 가능해집니다."라고 밝히며 흥미로운 발전 소식을 전했습니다.

이러한 발전은 엔비디아를 AI 기술의 선두주자로 자리매김하게 하며, DGX 슈퍼포드는 AI 연구 및 응용 분야에 참여하는 산업에 놀라운 도구가 될 것입니다.

Maingear, LLM 훈련을 위한 AI PC 워크스테이션 출시

양자 컴퓨팅의 잠금을 해제하다: 엔비디아가 AI를 넘어 확장 가능한 미래를 개척하는 방법

Most people like

SummaryGenerator.io

68.6K

단 한 번의 클릭으로 쉽게 텍스트를 요약하세요! 직관적인 도구를 통해 긴 문서, 기사, 보고서를 주요 요점을 강조하는 간결한 요약으로 빠르게 압축할 수 있습니다. 독서 과정을 효율적으로 간소화하고 이해력을 저해하지 않으면서 귀중한 시간을 절약하세요. 학생, 직장인, 정보를 더 빠르게 파악하고 싶은 모든 이에게 적합합니다. 오늘부터 독서 경험을 변화시켜 보세요!

요약 생성기 Summarizer

Mixpeek

44.6K

Mixpeek을 만나보세요: 강력한 검색 기능을 갖춘 첨단 지능형 파일 저장 솔루션입니다. 번개처럼 빠른 검색 기능으로 파일의 잠재력을 최대한 활용하고, 문서를 정리하고 찾는 과정을 그 어느 때보다 쉽게 만들어줍니다.

AI 도구 AI Search Engine

TXYZ - Integrate all paths to knowledge

504.5K

연구 과정을 혁신적으로 변화시키고 간소화하는 AI 플랫폼을 소개합니다. 인공지능의 힘을 활용하여 연구 역량을 향상시키고 비할 데 없는 효율성과 정확성을 경험하세요. 우리의 혁신적인 기술이 지식 탐구를 어떻게 지원할 수 있는지 알아보세요. 정보 수집을 그 어느 때보다 빠르고 효과적으로 만들어드립니다.

AI 기반 연구 Research Tool

Video To Blog

144.3K

당신의 YouTube 비디오의 잠재력을 블로그 포스트로 변환하여 극대화하세요. 이 효과적인 전략은 콘텐츠의 범위와 참여도를 높일 뿐만 아니라 청중을 다양화하는 데도 도움이 됩니다. 비디오 콘텐츠를 글 형식으로 변환함으로써 SEO를 개선하고 블로그 방문자를 늘리며, 청중이 계속 찾아오게 만드는 가치 있는 자원을 생성할 수 있습니다. 시각적 스토리텔링을 매력적인 글로 어떻게 원활하게 전환할 수 있는지 알아보세요!

비디오 AI Blog Writer

Find AI tools in YBX