인텔, AI 및 고성능 컴퓨팅(HPC) 능력 강화를 위한 Xeon 6 및 Gaudi 3 AI 칩 발표

인텔, AI 성능 강화를 위한 새로운 Xeon 6 프로세서와 Gaudi 3 AI 가속기 출시

인텔이 AI 분야에서의 입지를 강화하기 위해 Performance-core(P-core)가 탑재된 Xeon 6 프로세서와 Gaudi 3 AI 가속기를 선보였습니다. Xeon 6 프로세서는 AI 비전 성능을 두 배로 향상시키도록 설계되었으며, Gaudi 3 가속기는 20% 향상된 처리량을 제공합니다.

AI 인프라 수요 충족

AI가 여러 산업을 혁신하면서 기업들은 신속한 개발과 배포를 지원하는 비용 효율적인 인프라를 점점 더 많이 필요로 하고 있습니다. 이에 인텔의 새로운 Xeon 6 및 Gaudi 3 솔루션은 와트당 최적의 성능을 위해 설계되어 강력한 AI 시스템에 대한 수요를 충족하고 총 소유 비용(TCO)을 낮추는 데 기여하고 있습니다.

“AI에 대한 수요가 데이터 센터를 변화시키고 있으며, 업계는 다양한 하드웨어, 소프트웨어 및 개발 도구를 요구하고 있습니다.”라고 인텔 데이터 센터 및 AI 그룹의 부사장인 저스틴 호타드가 언급했습니다. “Xeon 6 및 Gaudi 3의 출시로 인텔은 다양한 작업에 걸쳐 성능, 효율성 및 보안을 향상시키기 위한 개방형 생태계를 구축합니다.”

인텔 Xeon 6 및 Gaudi 3 AI 가속기 소개

인텔의 최신 혁신은 Xeon 6 프로세서를 포함하여 데이터 센터 포트폴리오의 주요 업데이트를 제공합니다. 이러한 프로세서는 컴퓨팅 집약적인 작업을 위해 설계되었으며, 이전 모델의 두 배 성능을 자랑하고, 코어 수와 메모리 대역폭을 증가시켰으며, 엣지에서 클라우드까지 최적의 효율성을 위한 내장 AI 가속기를 포함하고 있습니다.

Gaudi 3 AI 가속기는 대규모 생성 AI에 최적화되어 있으며, 64개의 텐서 처리 코어(TPC)와 8개의 행렬 곱셈 엔진(MME)을 갖추고 있습니다. 128GB의 HBMe2 메모리를 지원하여 훈련 및 추론을 가능하게 하며, 확장 가능한 네트워킹을 위한 24개의 200기가비트 이더넷 포트를 포함하고 있습니다. 또한, Gaudi 3는 PyTorch 프레임워크와 최신 Hugging Face 트랜스포머 모델과의 호환성을 완벽하게 제공합니다. 인텔은 IBM과 협력하여 Gaudi 3 AI 가속기를 IBM 클라우드에서 서비스로 제공하여 TCO를 줄이고 AI 성능을 향상시키고자 합니다.

TCO 이점으로 AI 시스템 강화

인텔의 Xeon 6 및 Gaudi 3 개선 사항은 확장 가능한 AI 배포를 염두에 두고 설계되어 유연한 옵션, 경쟁력 있는 가격 및 접근 가능한 AI 기술을 제공합니다. GPU 가속 서버의 73%가 인텔 Xeon을 호스트 CPU로 사용하고 있으며, 인텔의 x86 인프라와 개방형 생태계는 기업들이 고부가 가치 AI 시스템을 구축하는 데 최적의 지원을 제공합니다.

인텔은 Dell Technologies, Hewlett Packard Enterprise, Supermicro와 같은 주요 OEM들과 협력하여 효율적인 AI 배포를 위한 고객 맞춤형 시스템을 공동 개발하고 있습니다. 현재 Dell Technologies는 Xeon 6 및 Gaudi 3를 활용한 정보 검색 증강 생성(RAG) 기반 솔루션을 개발 중입니다.

생성 AI 솔루션을 프로토타입에서 생산 준비 완료 시스템으로 전환하는 과정에서는 실시간 모니터링, 오류 처리, 로깅, 보안 및 확장성과 같은 도전 과제를 해결해야 합니다. 인텔은 OEM들과 긴밀히 협력하여 Xeon 및 Gaudi 시스템에 최적화된 마이크로 서비스 통합을 통해 Open Platform Enterprise AI (OPEA) 프레임워크에 기반한 생산 준비 완료 RAG 솔루션을 제공합니다.

기업 AI 애플리케이션 접근 확대

인텔은 기업 AI 솔루션에 대한 접근성을 지속적으로 강화하고 있습니다. 인텔 Tiber 포트폴리오는 AI, 클라우드 및 엣지 환경 전반의 접근성, 비용, 복잡성, 보안, 효율성 및 확장성과 관련된 문제를 해결합니다. 인텔 Tiber 개발자 클라우드는 이제 기술 평가 및 테스트를 위한 Xeon 6의 프리뷰 시스템을 제공합니다.

선택된 고객들은 AI 모델 배포 검증을 위한 Gaudi 3에 조기 액세스할 수 있으며, 대규모 생산을 위한 Gaudi 3 클러스터는 다음 분기에 출시될 예정입니다.

또한 Seekr의 신뢰할 수 있는 AI 애플리케이션 개발을 위한 엔드 투 엔드 AI 플랫폼인 SeekrFlow와 같은 새로운 서비스 제공이 포함되며, 최근 업데이트는 Xeon 6 프로세서를 위한 AI 가속 기능을 향상시킨 최신 인텔 Gaudi 소프트웨어 및 Jupyter 노트북의 지원을 제공합니다.