DataStax ha estado ampliando su plataforma de datos para satisfacer las crecientes demandas de los desarrolladores de IA empresarial. Hoy, la compañía presenta la DataStax AI Platform, creada en colaboración con Nvidia AI. Esta nueva plataforma integra las tecnologías de bases de datos existentes de DataStax, incluyendo DataStax Astra para aplicaciones nativas de la nube y la base de datos hiperconvergente (HCD) de DataStax para implementaciones autogestionadas. Además, cuenta con la tecnología Langflow, que facilita la creación de flujos de trabajo de IA agente. Los componentes de IA empresarial de Nvidia mejoran esta oferta, permitiendo a las organizaciones construir y desplegar modelos de manera rápida y eficiente. La integración incluye NeMo Retriever, NeMo Guardrails y NIM Agent Blueprints.
Según DataStax, esta plataforma puede reducir el tiempo de desarrollo de IA en un 60% y gestionar cargas de trabajo de IA 19 veces más rápido que las soluciones actuales. "El tiempo hasta la producción es crucial, ya que construir estos sistemas puede ser prolongado," afirmó Ed Anuff, Chief Product Officer de DataStax. "Muchas organizaciones se encuentran atrapadas en un infierno de desarrollo."
Cómo Langflow Potencia la IA Agente
Langflow, la herramienta de orquestación visual de IA de DataStax, es fundamental en la nueva plataforma de IA. Permite a los desarrolladores construir flujos de trabajo de IA visualmente, arrastrando y soltando componentes en un lienzo. Estos componentes incluyen diversas capacidades de DataStax y Nvidia, como fuentes de datos, modelos de IA y pasos de procesamiento, simplificando la creación de aplicaciones complejas de IA. "Langflow despliega todas las capacidades y APIs de DataStax junto con los componentes y microservicios de Nvidia como elementos visuales interconectables que se pueden ejecutar de manera interactiva," explicó Anuff.
Langflow también habilita la IA agente en la plataforma de DataStax. Según Anuff, la plataforma soporta tres tipos clave de agentes:
- Agentes orientados a tareas: Estos agentes manejan tareas específicas para los usuarios, como ensamblar paquetes de vacaciones en una aplicación de viajes según preferencias.
- Agentes de automatización: Funcionando tras bastidores, estos agentes gestionan tareas a través de la comunicación API, facilitando flujos de trabajo automatizados sin intervención directa del usuario.
- Sistemas multiagente: Este método divide tareas complejas en subtareas asignadas a agentes especializados.
Los Beneficios de la Integración entre Nvidia y DataStax para la IA Empresarial
La colaboración entre las capacidades de Nvidia y la tecnología de DataStax, potenciada por Langflow, ofrece ventajas significativas para los usuarios de IA empresarial. Anuff señaló que la integración de Nvidia permite la invocación más sencilla de modelos de lenguaje personalizados y embeddings a través de una arquitectura de microservicios NIM estandarizada, permitiendo a los usuarios aprovechar el hardware y software de Nvidia para una ejecución eficiente de modelos.
Además, la introducción de guardrails protege a los usuarios al prevenir contenido y resultados inseguros. "Los guardrails son un modelo intermedio que intercepta contenido inseguro de los usuarios o bases de datos," dijo Anuff, destacando su impacto tanto en desarrolladores como en usuarios finales.
La integración también apoya la mejora continua de modelos. Anuff mencionó que NeMo Curator permite a los usuarios de IA empresarial identificar contenido adicional para el ajuste fino. En general, esta integración acelera la adopción de IA en empresas mientras ofrece una solución rentable. Anuff enfatizó que no se basa únicamente en GPUs: "El stack empresarial de Nvidia puede ejecutar cargas de trabajo tanto en CPUs como en GPUs. Aunque las GPUs son generalmente más rápidas, descargar tareas a las CPUs puede resultar en ahorros de costos en áreas menos críticas."
Clasificación
