델 테크놀로지스, Nvidia와 AI 팩토리 개선 및 Hugging Face, Meta, Microsoft와의 협력 확대

델 테크놀로지스, 델 테크놀로지스 월드 컨퍼런스에서 생성 AI 역량 확대

델 테크놀로지스는 매년 열리는 델 테크놀로지스 월드 컨퍼런스에서 생성 AI 관련 여러 발표를 통해 자사의 AI 제공을 강화하고 있습니다.

델 AI 팩토리 소개

델 AI 팩토리는 기업이 AI를 보다 간소화하고 안전하게 채택할 수 있도록 지원하는 새로운 전략을 제시합니다. 이 이니셔티브는 2023년 7월에 발표된 솔루션을 확대하는 Nvidia와의 광범위한 협업을 포함하고 있습니다. 파트너십은 델과 Nvidia의 하드웨어 및 소프트웨어를 통합하여 기업의 생성 AI 프로젝트를 지원하며, 특히 고급 검색 보강 생성(RAG)과 디지털 비서에 중점을 둡니다. 추가로, 최근 공개된 Nvidia Blackwell GPU에 최적화된 새로운 하드웨어가 출시됩니다.

Hugging Face 및 Meta와의 협력 강화

델은 Hugging Face와의 통합을 심화하여 2023년 11월에 시작된 협력을 기반으로 기업 제공을 강화합니다. 또한, Llama 3를 지원하기 위해 Meta와의 파트너십도 계속 진행중이며, Llama 2와의 기존 작업을 넘어서는 방향으로 나아갑니다.

온프레미스 AI 구현 간소화

클라우드 기반의 생성 AI 옵션이 많은 가운데, 델은 기업이 온프레미스에서 생성 AI 기술을 평가하고 구현하는 과정을 간소화하는 것을 목표로 하고 있습니다. 델 테크놀로지스의 수석 부사장인 바룬 차브라는 “고객이 AI 워크로드에서 가치를 최대한 빨리 실현할 수 있도록 돕는 것이 우리의 목표”라고 강조했습니다.

프로젝트 헬릭스 이상의 발전

이번 컨퍼런스에서의 델 발표는 지난해의 프로젝트 헬릭스 이니셔티브에서 벗어나고 있습니다. Nvidia의 엔터프라이즈 컴퓨팅 부사장인 마누비르 다스는 “프로젝트 헬릭스를 출시했을 때 매우 교육 중심적이었으나, 이제는 추론 및 실용적인 모델 응용을 우선시하고 있다”고 전했습니다.

Nvidia 추론 마이크로서비스

신규 도입된 Nvidia 추론 마이크로서비스(NIMs)는 파트너십의 중요한 추가 사항입니다. 이 마이크로서비스는 개발자가 효율적이고 안전한 AI 모델 실행을 위해 환경을 자동으로 구성함으로써 배포 도전 과제를 완화합니다. 이를 통해 개발자는 배포의 복잡성에 대한 걱정 없이 애플리케이션 개발에 집중할 수 있습니다.

RAG 배포 가속화

생성 AI 환경은 특히 기업들이 데이터에 연결하는 방식에 있어 발전해왔습니다. RAG는 기존 데이터 저장소와 생성 AI 배포를 연결하는 데 필수적이 되어졌습니다. Precision AI Workstations용으로 특별히 설계된 새로운 Dell Accelerator Services for RAG는 개발자가 Dell 하드웨어와 Nvidia AI 워크벤치 개발 플랫폼을 사용하여 RAG 사용 사례를 생성하고 테스트하는 데 도움을 줍니다. 이 이니셔티브에는 Nvidia의 NeMo Retriever 기술이 포함되어 있어 조직이 RAG 구현에 필수적인 벡터 데이터베이스를 선택할 수 있는 유연성을 제공합니다.

파트너와의 협력을 통한 생성 AI 강화

Nvidia를 넘어서, 델은 다양한 파트너와 협력하여 생성 AI 역량을 강화하고 있습니다. 델은 기업 사용자를 위해 선별된 오픈 모델을 제공하기 위해 Hugging Face와의 파트너십을 확장하고 있으며, 델 엔터프라이즈 허브는 이러한 모델의 온프레미스 배포를 간소화하는 것을 목표로 하고 있습니다. 델은 또한 Llama 3 모델을 위한 배포 가이드와 성능 테스트를 제공하기 위해 Meta와 지속적으로 협력하고 있으며, 마이크로소프트와의 협력도 진행 중입니다. 새로운 Dell AI 솔루션은 델 인프라에서 Microsoft Azure AI 서비스를 이용할 수 있게 하여, 동일한 API를 통해 기업이 온프레미스에서 Microsoft Azure 기능을 활용할 수 있도록 지원합니다. 차브라는 “이러한 유연성은 기업이 데이터에 가까운 다양한 Azure AI 서비스—언어 처리, 번역, 음성 인식, 문서 지능 및 비전 등을 통합할 수 있도록” 기여한다고 언급했습니다.