람다 클러스터를 통해 Nvidia의 인기 H100 GPU에 온디맨드로 접근 가능해졌습니다.

람다, 온디맨드 Nvidia H100 GPU 액세스를 위한 1-클릭 클러스터 출시

GPU 클라우드 전문 기업 람다가 혁신적인 1-클릭 클러스터를 출시하여 고객에게 Nvidia H100 GPU 및 Quantum 2 InfiniBand 클러스터에 대한 온디맨드 액세스를 제공합니다. Nvidia와 협력하여 람다는 2개에서 64개 노드까지 유연한 클러스터 구성을 제공, 기업이 필요한 컴퓨팅 파워만 활용할 수 있도록 지원합니다. 특히 24/7 GPU 액세스가 필요하지 않은 경우 유용합니다.

AI 에이전트: 머신 러닝의 미래

람다의 공동 창립자이자 매출 부사장인 로버트 브룩스는 이 서비스가 자체 AI 모델을 개발하는 기업들에게 얼마나 유용한지를 강조했습니다. “AI 훈련은 하드웨어와 소프트웨어 모두에서 상당한 컴퓨팅 도전을 제공합니다,”라고 브룩스는 언급했습니다. “오늘날 AI 사업을 시작하려면 대규모 GPU 클러스터를 구축하기 위한 상당한 투자가 필요하며, 그 과정이 시작되기까지 시간이 걸릴 수 있습니다.”

람다는 서버 액세스를 위한 복잡한 공급자와의 협상 등 GPU 임대와 관련된 많은 물류 장애를 해소합니다. Nvidia H100 GPU와 InfiniBand 네트워킹을 즉시 배포할 수 있도록 준비하여 새로운 모델 프로젝트의 훈련 과정을 간소화합니다.

많은 기업들은 기초 모델 개발의 높은 비용 때문에 미리 훈련된 AI 모델을 활용하고, 이를 자사 데이터로 미세 조정하는 것을 선호합니다. Nvidia GPU는 매우 비쌀 수 있으며, 적절한 데이터 센터에 대한 제한된 액세스는 작은 기업들이 어려움을 겪게 합니다.

필요한 컴퓨팅 파워를 확보하기 위해, 작은 AI 기업들은 종종 GPU 공간 임대 또는 클라우드 공급자와의 파트너십을 선택합니다. AWS 및 Microsoft Azure와 같은 주류 클라우드 서비스는 Nvidia GPU 액세스를 제공하지만, 브룩스는 이들의 주된 초점이 AI 모델 배포—추론—에 있다는 점을 지적했습니다. 또한, GPU 클러스터 계약은 1년 이상 지속될 수 있습니다.

람다의 1-클릭 클러스터는 장기 계약의 부담 없이 단기 GPU 액세스를 원하는 조직들을 위해 설계되었습니다. 기업들은 최소 2주 동안 원하는 노드 수를 예약할 수 있으며, 가격은 노드 수와 예약 기간에 따라 달라집니다.

2012년에 설립된 람다는 최근 3억 2천만 달러의 자금을 확보하여 기업 가치를 15억 달러로 평가받고 있습니다.

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles