NVIDIA запускает микросервисы генеративного ИИ уровня предприятия, чтобы ускорить развертывание и инновации в области ИИ-приложений.

В сфере искусственного интеллекта компании сталкиваются с беспрецедентными возможностями и вызовами. Чтобы удовлетворить растущий спрос на быстрые, эффективные и индивидуализированные AI-приложения, NVIDIA 18 марта 2024 года представила несколько микроуслуг генеративного ИИ уровня предприятия в своей штаб-квартире в Сан-Хосе, Калифорния. Эти микроуслуги созданы для того, чтобы предоставить разработчикам надежную платформу для создания и развертывания персонализированных генеративных AI-ассистентов, при этом обеспечивая полное владение и контроль над интеллектуальной собственностью для бизнеса.

Новые микроуслуги генеративного ИИ построены на платформе NVIDIA CUDA и включают микроуслуги NVIDIA NIM, которые улучшают производительность вывода более чем 20 популярных AI-моделей в экосистеме NVIDIA. Пользователи также могут использовать микроуслуги NVIDIA CUDA-X для применения ускоренных наборов программного обеспечения, библиотек и инструментов NVIDIA для таких задач, как улучшенная генерация с поддержкой извлечения (RAG), защита данных и высокопроизводительные вычисления (HPC). Кроме того, NVIDIA запустила более 20 специализированных микроуслуг NIM и CUDA-X, ориентированных на медицинский сектор, что расширяет потенциал AI в здравоохранении.

Эти микроуслуги привносят новое измерение в полный стек вычислительной платформы NVIDIA, тесно связывая разработчиков моделей, поставщиков платформ и предприятия для создания мощной экосистемы ИИ. Бизнес может легко развертывать пользовательские AI-модели, оптимизированные для установки на базе NVIDIA CUDA, которая включает миллиарды GPU в облаке, дата-центрах, рабочих станциях и ПК.

Основатель и генеральный директор NVIDIA, Дженсен Хуанг, отметил, что корпоративные платформы обладают огромными ресурсами данных, которые можно преобразовать в генеративных AI-ассистентов, значительно увеличивая коммерческую ценность. Контейнеризованные AI-микроуслуги, разработанные в сотрудничестве с партнерами, послужат основой для отраслей, переходящих к AI.

Внедрение микроуслуг вывода NIM значительно сокращает время развертывания, превращая процесс, который раньше занимал недели, в несколько минут. Эти микроуслуги предоставляют готовые контейнеры на основе программного обеспечения вывода NVIDIA, включая сервер вывода Triton и TensorRT-LLM, позволяя разработчикам быстро создавать и развертывать AI-приложения. Кроме того, NIM предлагает стандартные API в таких областях, как обработка языка, распознавание речи и открытие лекарств, что дает разработчикам возможность использовать собственные данные для более безопасной и эффективной разработки AI-приложений.

На практике компании, такие как ServiceNow, уже начали использовать NIM для ускорения разработки специализированных ассистентов и генеративных AI-приложений. Пользователи могут получать доступ к микроуслугам NIM через платформы, такие как Amazon SageMaker, Google Kubernetes Engine и Microsoft Azure AI, интегрируя их с популярными AI-фреймворками, такими как Deepset и LangChain.

Помимо микроуслуг NIM, микроуслуги CUDA-X также предлагают значительную поддержку для разработки AI-приложений. Эти микроуслуги предоставляют модули для полной сборки, подготовки данных, настройки и обучения, что помогает предприятиям ускорить разработку production-level AI. С помощью NVIDIA Riva для настройки голосовых и переводческих AI и NVIDIA cuOpt для оптимизации маршрутов компании могут повысить производительность и точность своих AI-приложений. Более того, запуск микроуслуги NeMo Retriever позволяет разработчикам тесно связывать AI-приложения с бизнес-данными, улучшая точность и аналитические возможности AI-ассистентов.

В заключение, запуск NVIDIA микроуслуг генеративного ИИ уровня предприятия предоставляет компаниям мощную технологическую поддержку и инновационный импульс. Эти микроуслуги не только упрощают процессы разработки и развертывания AI-приложений, но и предлагают повышенную гибкость и производительность для предприятий. Поскольку технологии ИИ продолжают развиваться, эти микроуслуги готовы сыграть важную роль в продвижении распространения и инноваций AI-приложений.