DataStax стремится спасти предприятия от «ада разработок» в сфере ИИ при поддержке Nvidia

DataStax расширяет свою платформу данных, чтобы удовлетворить растущие потребности разработчиков корпоративного ИИ. Сегодня компания представила платформу DataStax AI, созданную в сотрудничестве с Nvidia AI. Эта новая платформа интегрирует существующие технологии баз данных DataStax, включая DataStax Astra для облачных приложений и DataStax Hyper-Converged Database (HCD) для самоуправляемых развертываний. Она также включает технологию Langflow, которая упрощает создание агентных ИИ-рабочих процессов. Компоненты корпоративного ИИ от Nvidia улучшают это предложение, позволяя организациям быстро разрабатывать и развертывать модели с повышенной эффективностью. Интеграция включает NeMo Retriever, NeMo Guardrails и NIM Agent Blueprints.

Согласно DataStax, эта платформа может сократить время разработки ИИ на 60% и обрабатывать ИИ-рабочие нагрузки в 19 раз быстрее, чем существующие решения. "Время выхода на рынок критично, так как создание этих систем может занять много времени", - отметил Эд Анафф, директор по продуктам DataStax. "Многие организации застревают в разработческой рутине."

Как Langflow Упрощает Агентный ИИ

Langflow, инструмент визуальной оркестрации ИИ от DataStax, играет ключевую роль в новой платформе. Он позволяет разработчикам визуально строить ИИ-рабочие процессы, перетаскивая компоненты на холст. Эти компоненты включают различные возможности от DataStax и Nvidia, такие как источники данных, модели ИИ и этапы обработки, упрощая создание сложных ИИ-приложений. "Langflow отображает все возможности и API от DataStax вместе с компонентами и микросервисами Nvidia в виде визуальных элементов, которые можно взаимосвязывать и запускать интерактивно", - объяснил Анафф.

Langflow также поддерживает агентный ИИ на платформе DataStax. По словам Анаффа, платформа поддерживает три типа агентов:

- Агенты, ориентированные на задачи: Эти агенты выполняют конкретные задачи для пользователей, например, собирают туристические пакеты в приложении на основе предпочтений.

- Автоматизационные агенты: Работая в фоновом режиме, эти агенты управляют задачами через API, упрощая автоматизированные рабочие процессы без прямого участия пользователя.

- Мультиагентные системы: Этот метод разбивает сложные задачи на подзадачи, назначая их специализированным агентам.

Преимущества Интеграции Nvidia и DataStax для Корпоративного ИИ

Сотрудничество возможностею Nvidia и технологиями DataStax, усиленное Langflow, предоставляет значительные преимущества для пользователей корпоративного ИИ. Анафф отметил, что интеграция с Nvidia облегчает использование кастомных языковых моделей и встраиваний через стандартизированную архитектуру NIM микросервисов, позволяя пользователям эффективно выполнять модели с использованием аппаратного и программного обеспечения Nvidia.

Кроме того, внедрение защитных барьеров помогает пользователям исключать небезопасный контент. "Защитные барьеры представляют собой модель сайдкара, которая перехватывает небезопасный контент от пользователей или баз данных", - подчеркнул Анафф, акцентируя их влияние на разработчиков и конечных пользователей.

Интеграция также поддерживает постоянное улучшение моделей. Анафф добавил, что NeMo Curator помогает пользователям корпоративного ИИ находить дополнительный контент для дообучения.

В целом, эта интеграция ускоряет внедрение ИИ в компаниях, предлагая экономически эффективное решение. Анафф подчеркнул, что оно не зависит исключительно от графических процессоров: "Корпоративный стек Nvidia может выполнять рабочие нагрузки как на CPU, так и на GPU. Хотя GPU, как правило, быстрее, перераспределение задач на CPU может привести к экономии в менее критических областях."