В то время как предприятия стремятся использовать искусственный интеллект (ИИ), перед ними стоит значительная проблема: быстрое развитие и развертывание ИИ-приложений в масштабах. Startup RunPod, предлагающий глобально распределенную платформу GPU облака для разработки и развертывания ИИ, недавно привлек 20 миллионов долларов начальных инвестиций от Dell Technologies Capital и Intel Capital для непосредственного решения этой проблемы.
Появление специализированных облачных платформ для ИИ
Рост RunPod отражает более широкую тенденцию: увеличение специализированных облачных сервисов, адаптированных для ИИ. По мере того как ИИ становится неотъемлемой частью бизнес-процессов, ограниченность облачной инфраструктуры общего назначения становится все более очевидной. Проблемы с латентностью, недостаточная масштабируемость и отсутствие инструментов, предназначенных для ИИ, мешают развертыванию ИИ-приложений. Это создало условия для появления оптимизированных облачных платформ для ИИ, предлагающих лучшие вычислительные ресурсы, гибкость и удобные для разработчиков среды, подходящие для сложных задач ИИ. Инвестиции в RunPod совпадают с ростом вложений в специализированный сектор облака для ИИ. С учетом увеличения спроса на инфраструктуру с ускорением GPU, множество стартапов привлекают значительные средства. Например, компания CoreWeave из Нью-Джерси собрала 1,1 миллиарда долларов, достигнув оценки в 19 миллиардов долларов, в то время как Together Computer из Сан-Франциско намерена привлечь более 100 миллионов долларов при оценке более 1 миллиарда долларов. Также Lambda Inc. недавно объявила о раунде финансирования на сумму 320 миллионов долларов при оценке 1,5 миллиарда долларов для своей оптимизированной облачной платформы для ИИ. Эти значительные инвестиции подчеркивают растущий спрос на специализированную инфраструктуру для ИИ и конкурентную среду, в которой должен действовать RunPod.
Фокус на разработчиков
RunPod превзошел 100 000 разработчиков, уделяя первоочередное внимание пользовательскому опыту и быстрому внедрению изменений как ключевым факторам для раскрытия бизнес-ценности ИИ. "Если ваши разработчики довольны и чувствуют себя уверенно, это самое важное", - сказал соучредитель и CEO RunPod Жэнь Лу. "Многие компании это упускают из виду; они считают, что увеличение количества GPU привлечет разработчиков. Реальная ценность заключается в обеспечении быстрого внедрения изменений."
Это стремление к качеству пользовательского опыта привело к широкому принятию платформы, начиная с grassroots инициатив, поддерживающих независимых разработчиков, и до привлечения профессионалов и малых бизнесов. RunPod сейчас активно движется в сферу корпоративных клиентов, предлагая доступ к GPU Nvidia через гибкие вычислительные экземпляры и серверлесс-функции. "Мы начали два года назад, поддерживая хакеров и разработчиков, которым нужны доступные GPU-ресурсы", - вспоминает Лу. "Сначала мы разместили наши предложения на Reddit, предоставляя бесплатный доступ пользователям, которые не могли позволить себе вычислительные ресурсы. Со временем мы привлекли разнообразную клиентскую базу, включая стартапы и крупные предприятия."
Критическая задача, которую решает RunPod, заключается в необходимости для бизнеса развертывать настраиваемые модели, которые они могут контролировать и изменять. Многие корпоративные разработчики полагаются на общие модели API, не удовлетворяющие их специфическим потребностям. "Многие поставщики упрощают развертывание недостаточных решений, при этом усложняя процесс для того, что действительно нужно клиентам", - отметил Лу. "Наши клиенты ищут больший контроль и настройку."
RunPod поделился успешными историями, подтверждающими свою ориентированность на разработчиков. LOVO AI, стартап по созданию голосов, похвалил удобное хранилище и опыт разработчика от RunPod, в то время как Coframe, создатель самооптимизирующихся цифровых интерфейсов, подчеркнул, как легко ему удалось развернуть собственную модель на серверлесс GPU за неделю.
Преодоление ограничений Kubernetes
Для обеспечения настройки на большом масштабе RunPod решил разработать свой собственный уровень оркестрации, вместо того чтобы полагаться на Kubernetes. Первые испытания показали, что Kubernetes, предназначенный для традиционных рабочих нагрузок, оказался слишком медленным для задач ИИ. "Многие пользователи просто хотят получить конечный результат, не углубляясь в сложности Kubernetes", - подчеркнул Лу. "Хотя Kubernetes может хорошо служить экспертам, он может быть разочаровывающим для тех, кто нуждается в быстрой ценности."
Стратегия RunPod по созданию собственного уровня оркестрации основана на признании недостатков Kubernetes для уникальных требований ИИ-рабочих нагрузок. "Рабочие нагрузки ИИ/МЛ принципиально отличаются от традиционных приложений", - отметил Лу. "Они требуют специализированных ресурсов, ускоренного планирования и гибкой масштабируемости, чего Kubernetes не мог обеспечить быстро для наших клиентов."
Эта способность жизненно важна для предприятий, которым необходимо быстро развертывать и изменять пользовательские модели ИИ. Сложность Kubernetes может сдерживать циклы разработки и эксперименты, препятствуя внедрению ИИ. "Многие управляемые платформы ИИ полезны для новичков, но могут ограничивать более сложные развертывания," - сказал Лу. "RunPod предоставляет предприятиям необходимую инфраструктуру для разработки и масштабирования ИИ по своему усмотрению, не жертвуя скоростью или удобством."
Масштабирование для будущего роста
С новыми инвестициями RunPod планирует увеличить численность сотрудников для удовлетворения растущего спроса со стороны предприятий и улучшить функции, такие как поддержка ЦП наряду с GPU. Компания сообщает о десятикратном увеличении как выручки, так и численности персонала за последний год.
Обладая устойчивым интересом и инвестициями, RunPod находится в хорошей позиции для перспективного будущего. Однако в насыщенном рынке поддержание фокуса на потребностях разработчиков будет критически важным. "Разработчики ищут индивидуальные решения; им нужны инструменты, которые облегчают внедрение и позволяют им дорабатывать и оптимизировать свои результаты," - заключил Лу. "Это видение, к которому мы стремимся."
Рейтинг
