디지털오션, Nvidia H100 파트너십으로 중소기업의 AI 접근성을 확대하다

AI는 더 이상 대기업 전용이 아닙니다. 중소기업(SMBs)도 점점 더 이 기술을 활용하고 있습니다. DigitalOcean은 중소기업을 위한 개발자용 클라우드 서비스를 강화하며, 업계를 선도하는 Nvidia H100 GPU AI 가속기에 대한 지원을 도입했습니다. 2023년 7월 Paperspace를 인수한 DigitalOcean은 AI 시장 침투를 목표로 하고 있습니다. Paperspace는 GPU 접근성을 제공하며 Gradient라는 데이터 사이언스 플랫폼을 호스팅하고 있습니다.

Paperspace 플랫폼의 새로운 서비스는 개발자들에게 가상화를 통해 H100 GPU에 대한 확장 가능한 접근을 제공하여 강력한 AI 기능을 보다 쉽게 이용할 수 있게 합니다. H100 GPU는 AI 모델의 훈련 시간을 대폭 단축시키고 추론 응답 시간을 개선합니다. 생성적 AI의 인기가 높아짐에 따라 Nvidia H100 GPU에 대한 수요가 증가하고 있어, 소규모 기업들이 접근하는 데 어려움을 겪고 있습니다. DigitalOcean의 AI/ML GM인 Kanishka Roychoudhury는 “이러한 회사들은 매우 강력한 GPU가 필요할 때 확보하기 힘들어 비즈니스 성장에 차질을 빚곤 합니다.”라고 말했습니다.

DigitalOcean은 H100 GPU 접근을 위한 가상화 전략을 채택하고 있습니다. 모든 SMB가 H100의 전체 성능을 필요로 하는 것은 아니지만, 많은 기업이 AI 기능을 부분적으로 활용할 수 있습니다. Roychoudhury는 “소규모 스타트업은 다양합니다.”라고 설명했습니다.

DigitalOcean Paperspace 플랫폼은 맞춤형 GPU 접근성과 성능을 제공합니다. 각 Nvidia H100 GPU는 최대 8개의 개별 GPU 인스턴스로 가상화될 수 있어, 조직은 필요에 따라 단일 인스턴스나 모든 8개의 전체 파워를 프로비저닝할 수 있습니다. 이미 SMB들은 DigitalOcean Paperspace 플랫폼을 활용해 다양한 AI 애플리케이션을 개발하고 있습니다. Roychoudhury는 새로운 Nvidia H100 지원이 그들의 애플리케이션 개발을 넓힐 것이라고 예상하고 있습니다.

사용 사례의 예로는 다국어 비디오 번역을 위한 비디오 증강 서비스 개발 스타트업이 있습니다. Roychoudhury는 H100 GPU가 주로 AI 모델 훈련에 사용되겠지만, 일부 고객은 이미 추론 작업에 덜 강력한 Nvidia A100 GPU를 활용하고 있으며 수요가 증가함에 따라 H100으로 전환할 계획이라고 밝혔습니다.

DigitalOcean과 Paperspace의 통합은 계속 진행 중이며, 앞으로 몇 달 안에 더 많은 개선이 기대됩니다. 현재 Nvidia H100을 포함한 GPU 자원은 DigitalOcean의 컴퓨팅 저장소 자원과 함께 Paperspace를 통해 배포할 수 있습니다.

향후 계획에는 H100 GPU를 Paperspace의 Gradient 데이터 사이언스 플랫폼에서 사용할 수 있도록 하는 것이 포함됩니다. Gradient는 데이터 과학자와 엔지니어가 AI 모델을 구축, 훈련, 테스트 및 배포할 수 있는 노트북 기반 환경을 제공합니다. 개발자들은 기본 컴퓨팅 자원으로 프로젝트를 시작하고 GPU와 같은 더 강력한 옵션으로 업그레이드할 수 있습니다. Gradient는 또한 Hugging Face와 통합되어 사전 훈련된 모델을 다운로드하고 미세 조정할 수 있도록 지원합니다.

DigitalOcean의 궁극적인 목표는 SMB들이 Nvidia H100과 같은 고급 AI 도구와 하드웨어를 쉽게 접근하고 저렴하게 이용할 수 있도록 장벽을 낮추는 것입니다. Roychoudhury는 “우리는 이 기술을 더 많은 소규모 기업들이 널리 사용할 수 있도록 하는 것을 목표로 하고 있습니다.”라고 말했습니다.