기업들이 AI 활용에 박차를 가하는 가운데, 중요한 도전 과제가 남아 있습니다: 대규모로 AI 애플리케이션을 신속하게 개발하고 배포하는 것입니다. RunPod는 AI 개발 및 배포를 위한 글로벌 분산 GPU 클라우드 플랫폼을 제공하는 스타트업으로, 최근 Dell Technologies Capital과 Intel Capital로부터 2천만 달러의 시드 펀딩을 확보하여 이 문제를 직접 해결하고 있습니다.
전문 AI 클라우드 플랫폼의 출현
RunPod의 성장은 AI를 위한 특화된 클라우드 서비스의 부상을 반영합니다. AI가 비즈니스 운영의 핵심으로 자리잡으면서 일반용 클라우드 인프라의 한계가 점점 더 분명해지고 있습니다. 지연 문제, 확장성 부족, AI 전용 도구의 부족은 AI 애플리케이션 배포를 저해하고 있습니다. 이러한 간극은 최적화된 AI 클라우드 플랫폼의 출현으로 이어졌으며, 이들은 우수한 컴퓨팅 자원과 유연성, 개발자 친화적인 환경을 제공하여 요구가 높은 AI 작업에 적합합니다. RunPod의 자금 조달은 특화된 AI 클라우드 분야에 대한 투자 증가와 함께 이루어졌습니다. GPU 가속 인프라에 대한 수요가 증가함에 따라 여러 스타트업이 큰 자금을 확보하고 있습니다. 예를 들어, 뉴저지에 본사를 둔 CoreWeave는 11억 달러를 모금해 190억 달러의 기업 가치를 평가받았고, 샌프란시스코에 위치한 Together Computer는 10억 달러 이상의 가치에서 1억 달러 이상의 자금을 조달할 계획입니다. Lambda Inc.는 최근 AI 최적화 클라우드 플랫폼을 위해 3억 2천만 달러의 자금을 유치하며 15억 달러의 가치 평가를 발표했습니다. 이러한 대규모 투자는 특화된 AI 인프라에 대한 증가하는 수요와 RunPod가 탐색해야 할 경쟁 환경을 강조합니다.
개발자 중심의 추진
RunPod는 사용자 경험과 신속한 반복을 우선시하여 10만 명 이상의 개발자에게 도달했습니다. RunPod 공동 창립자이자 CEO인 Zhen Lu는 “개발자들이 만족하고 잘 갖춰져 있다고 느끼는 것이 가장 중요하다”고 말했습니다. “많은 기업이 이점을 간과하고 GPUs만 추가하면 개발자가 모일 것이라고 생각하지만, 진정한 가치는 신속한 반복을 가능하게 하는 데 있습니다.”
이러한 개발자 경험에 대한 헌신은 인디 개발자를 지원하는 노력에서 시작해 프로슈머와 중소기업까지 광범위한 채택으로 이어졌습니다. RunPod는 이제 엔터프라이즈 시장으로 나아가 유연한 컴퓨팅 인스턴스와 서버리스 기능을 통해 Nvidia GPU에 대한 접근을 제공하고 있습니다. Lu는 “우리는 두 년 전 저렴한 GPU 자원이 필요한 해커와 개발자를 지원하기 시작했다”고 회상했습니다. “당초 Reddit에 우리의 서비스를 나열하며 컴퓨팅 자원을 감당하지 못하는 사용자에게 무료로 접근을 제공했습니다. 시간이 지나면서 스타트업과 기존 기업을 포함한 다양한 고객을 유치하게 되었습니다.”
RunPod가 해결하는 중요한 과제는 기업들이 자신이 제어하고 반복할 수 있는 맞춤형 모델을 배포해야 한다는 점입니다. 많은 기업 개발자들은 특정 요구를 충족시키지 못하는 일반 API 모델에 의존하고 있습니다. Lu는 “많은 공급업체가 고객이 진정으로 원하는 것을 복잡하게 만드는 불충분한 솔루션을 단순화하려 한다”고 지적했습니다. “우리 고객은 더 큰 제어권과 맞춤화를 원합니다.”
RunPod는 개발자 중심 접근 방식을 바탕으로 한 성공 사례를 공유했습니다. 음성 생성 스타트업 LOVO AI는 RunPod의 사용자 친화적인 저장소와 개발자 경험을 찬양했으며, 자가 최적화 디지털 인터페이스 제작사 Coframe은 서버리스 GPU에서 맞춤형 모델을 일주일 만에 배포한 편리함을 강조했습니다.
Kubernetes 한계 극복하기
RunPod는 대규모 맞춤화를 지원하기 위해 Kubernetes에 의존하기보다는 자체 오케스트레이션 레이어를 개발하기로 결정했습니다. 초기 아키텍처 테스트 결과, 전통적인 작업을 위해 설계된 Kubernetes는 AI 작업에는 느리다는 판단을 내렸습니다. Lu는 “많은 사용자는 Kubernetes의 복잡함을 파고들지 않고 최종 결과를 원한다”고 강조했습니다. "Kubernetes는 전문가에게 도움이 될 수 있지만, 빠른 가치 실현이 필요한 이들에게는 실망스러울 수 있습니다."
RunPod가 독점적 오케스트레이션 레이어를 구축하는 전략은 AI 작업의 독특한 요구에 대한 Kubernetes의 부족을 인식하는 데서 비롯되었습니다. Lu는 “AI/ML 작업은 전통적인 애플리케이션과 근본적으로 다르다”고 지적하며, “이들은 전문 자원, 신속한 스케줄링 및 민첩한 확장이 필요하지만 Kubernetes는 우리 고객을 위해 빠르게 지원할 수 없었습니다.”
이 능력은 기업이 맞춤형 AI 모델을 신속하게 배포하고 반복해야 할 때 매우 중요합니다. Kubernetes의 복잡성은 개발 사이클과 실험을 저해하여 AI 채택을 방해할 수 있습니다. Lu는 “많은 매니지드 AI 플랫폼은 초보자에게 유용하지만, 더 고급 배포를 제한할 수 있다”고 말했습니다. “RunPod는 기업이 속도나 사용성을 타협하지 않고 AI를 구축하고 확장하는 데 필요한 인프라를 제공합니다.”
미래 성장 대비 확장
새로운 자금으로 RunPod는 증가하는 엔터프라이즈 수요에 맞추기 위해 인력을 확장하고 GPU와 함께 CPU 지원 등을 강화할 계획입니다. 이 회사는 지난 한 해 동안 수익과 직원 수가 10배 증가했다고 보고했습니다.
탄탄한 성과와 투자 지원을 바탕으로 RunPod는 유망한 미래를 맞이할 준비가 되어 있습니다. 그러나 경쟁이 치열한 시장에서 개발자 요구에 대한 집중을 유지하는 것이 중요합니다. Lu는 “개발자들은 맞춤형 솔루션을 찾고 있으며, 온보딩을 용이하게 하고 그들이 결과를 다듬고 최적화할 수 있도록 도와주는 도구를 원한다”고 결론지었습니다. “이것이 우리가 추구하는 비전입니다.”
순위 목록
