A DataStax está expandindo sua plataforma de dados para atender às crescentes demandas dos desenvolvedores de IA corporativa. Hoje, a empresa apresenta a DataStax AI Platform, desenvolvida em colaboração com a Nvidia AI. Esta nova plataforma integra as tecnologias de banco de dados existentes da DataStax, incluindo o DataStax Astra para aplicações nativas em nuvem e o DataStax Hyper-Converged Database (HCD) para implantações autogeridas. Além disso, conta com a tecnologia Langflow, que facilita a criação de fluxos de trabalho de IA agente.
Os componentes de IA corporativa da Nvidia aprimoram essa oferta, permitindo que as organizações construam e implantem modelos rapidamente, com eficiência aprimorada. A integração inclui o NeMo Retriever, NeMo Guardrails e os NIM Agent Blueprints. Segundo a DataStax, essa plataforma pode reduzir o tempo de desenvolvimento de IA em 60% e gerenciar cargas de trabalho de IA 19 vezes mais rápido que as soluções existentes.
"O tempo até a produção é crucial, já que construir esses sistemas pode ser demorado," disse Ed Anuff, Chief Product Officer da DataStax. "Muitas organizações se sentem presas no 'inferno do desenvolvimento'."
Como o Langflow Impulsiona a IA Agente
O Langflow, ferramenta de orquestração visual de IA da DataStax, desempenha um papel fundamental na nova plataforma de IA. Ele permite que os desenvolvedores construam fluxos de trabalho de IA visualmente, arrastando e soltando componentes em uma tela. Esses componentes incluem diversas capacidades da DataStax e da Nvidia, como fontes de dados, modelos de IA e etapas de processamento, simplificando a criação de aplicações complexas.
"O Langflow reúne todas as capacidades e APIs da DataStax, juntamente com os componentes e microserviços da Nvidia, como elementos visuais que podem ser interconectados e executados interativamente," explicou Anuff.
O Langflow também possibilita a IA agente na plataforma da DataStax. De acordo com Anuff, a plataforma suporta três tipos principais de agentes:
- Agentes orientados a tarefas: Esses agentes lidam com tarefas específicas para os usuários, como montar pacotes de viagem em um aplicativo, com base nas preferências.
- Agentes de automação: Operando nos bastidores, esses agentes gerenciam tarefas por meio da comunicação via API, facilitando fluxos de trabalho automatizados sem a necessidade de input direto dos usuários.
- Sistemas multiagente: Este método divide tarefas complexas em subtarefas atribuídas a agentes especializados.
Benefícios da Integração da Nvidia e DataStax para a IA Corporativa
A colaboração entre as capacidades da Nvidia e a tecnologia da DataStax, aprimorada pelo Langflow, oferece vantagens significativas para os usuários de IA corporativa. Anuff destacou que a integração com a Nvidia possibilita a invocação mais fácil de modelos de linguagem personalizados e incorporações por meio de uma arquitetura padronizada de microserviços NIM, permitindo aos usuários aproveitar o hardware e software da Nvidia para uma execução eficiente de modelos.
Além disso, a introdução de guardrails protege os usuários, impedindo conteúdos e resultados inseguros. "Os guardrails são um modelo adicional que intercepta conteúdos inseguros dos usuários ou bancos de dados," disse Anuff, destacando seu impacto tanto para desenvolvedores quanto para usuários finais.
A integração também apoia a melhoria contínua dos modelos. Anuff mencionou que o NeMo Curator capacita os usuários de IA corporativa a identificar conteúdo adicional para ajuste fino.
No geral, essa integração acelera a adoção de IA nas empresas, oferecendo uma solução econômica. Anuff enfatizou que não depende exclusivamente de GPUs: "A pilha corporativa da Nvidia pode executar cargas de trabalho em CPUs e GPUs. Embora as GPUs sejam geralmente mais rápidas, desalocar tarefas para CPUs pode levar a economias de custos em áreas menos críticas."