NVIDIA, Llama-3.1-Nemotron-51B AI 모델 출시: H100 GPU로 효율적인 컴퓨팅의 혁신

Home AI 뉴스 NVIDIA, Llama-3.1-Nemotron-51B AI 모델 출시: H100 GPU로 효율적인 컴퓨팅의 혁신

최근 NVIDIA는 Meta의 Llama-3.1-70B 아키텍처를 기반으로 최적화된 Llama-3.1-Nemotron-51B AI 모델을 출시했다고 발표했습니다. 이 혁신적인 AI 모델은 최첨단 신경 아키텍처 검색(Neural Architecture Search, NAS) 기술을 활용하여 계산 효율성을 크게 향상시키면서도 높은 정확도를 유지합니다. 이로 인해 단일 H100 GPU가 일반적으로 더 많은 하드웨어 리소스를 요구하는 대규모 작업을 처리할 수 있게 되었습니다.

Llama-3.1-Nemotron-51B 모델은 파라미터 크기가 51억으로 줄어든 반면, 이전 모델인 Llama-3.1-70B의 강력한 기능을 그대로 유지합니다. NAS를 통해 세심하게 조정된 이 모델은 메모리 소비와 계산 복잡도를 감소시키고 운영 비용도 크게 절감합니다. NVIDIA는 최적화된 모델이 원래의 70B 버전에 비해 추론 속도가 2.2배 향상되었다고 보고하며, 뛰어난 에너지 효율성을 보여줍니다.

다양한 벤치마크 테스트에서 Llama-3.1-Nemotron-51B는 MT Bench, MMLU, 텍스트 생성 및 요약 작업에서 우수한 성능을 발휘하며, 거의 원본 정확도를 유지하면서 처리 속도를 크게 향상시켰습니다. 이 모델은 단일 H100 GPU로 더 큰 작업 부하를 처리할 수 있으며, 성능이 4배 이상 향상됩니다.

이러한 성과는 NVIDIA의 건축 최적화에 대한 광범위한 탐구에서 비롯되었습니다. 팀은 블록 증류(block distillation)와 지식 증류(knowledge distillation)와 같은 기법을 적용하여 더 작은 "학생" 모델이 더 큰 "교사" 모델의 기능을 복제하도록 훈련했습니다. 이 접근 방식은 정확도를 유지하면서 자원 요구 사항을 대폭 줄입니다. 또한 퍼즐 알고리즘(Puzzle algorithm)의 적용은 속도와 정밀도 사이의 최적의 균형을 이루기 위해 다양한 블록을 점수화하고 구성합니다.

NVIDIA는 Llama-3.1-Nemotron-51B의 도입이 AI 분야에 혁신적인 돌파구를 제공하며, 현실 세계 응용 프로그램을 위한 더 효율적이고 비용 효과적인 솔루션을 제공한다고 강조합니다. AI 기술이 지속적으로 발전하는 가운데, 정확도를 유지하면서 계산 효율성을 향상시키는 것은 산업의 주요 초점입니다. NVIDIA의 혁신은 이러한 도전에 대한 새로운 통찰력과 방향을 제시합니다.

앞으로 NVIDIA는 AI 기술 분야의 연구와 혁신 노력을 강화할 계획이며, 다양한 분야에 걸쳐 적용 및 개발을 촉진할 것입니다. Llama-3.1-Nemotron-51B 모델의 출시는 이러한 빠르게 발전하는 분야에서 NVIDIA의 중요한 진전을 나타냅니다.

구글 제미니 1.5 AI 모델 업그레이드: 비용 절반으로 줄이면서 성능 대폭 향상

닌텐도, AI로 생성된 마리오 이미지 대대적 삭제 조치 취하다

Most people like

Gamma.AI

193K

Gamma.AI 소개: 직원 활동을 모니터링하고 보안 오류를 신속하게 알리는 고급 AI 기반 솔루션입니다. 첨단 기술을 활용하는 Gamma.AI는 조직의 안전을 보장하고 규정을 준수하며 위험을 최소화하는 데 도움을 줍니다.

AI 기반 Other

RightBlogger

101.5K

RightBlogger에 오신 것을 환영합니다. 블로거를 위해 특별히 설계된 혁신적인 AI 기반 플랫폼입니다. 40개 이상의 강력한 도구를 통해 그 어느 때보다 빠르게 고품질 콘텐츠를 손쉽게 작성할 수 있습니다. 오늘 RightBlogger와 함께 블로깅 경험을 향상시키고 생산성을 높이세요!

AI 기반 콘텐츠 도구 AI Content Generator

Trupeer

96.4K

AI 기반 플랫폼으로 제품 마케팅을 혁신하세요. 스크린 녹화를 매력적인 제품 비디오와 포괄적인 문서로 변환합니다. 콘텐츠 생성 과정을 간소화하고 관객 참여를 이전과는 다르게 향상시켜 보세요.

AI 기반 Other

The StoryGraph

3.3M

당신의 기분과 개인 취향에 맞는 책을 손쉽게 찾아보고 선택하세요.

책 추적 AI Book Writing

Find AI tools in YBX