Karaoke de Stardog: Solución LLM On-Premises Sin Alucinaciones Diseñada para Empresas

Stardog: Pionero en la Gestión de Datos Empresariales con Soluciones Innovadoras de IA

Fundada en 2006 y con sede en Arlington, Virginia, Stardog lidera la gestión de datos empresariales y los grafos de conocimiento. Desde el principio, su fundador y CEO, Kendall Clark, comprendió que las empresas del siglo XXI dependen del dato, reconociendo la necesidad crítica de digitalización y accesibilidad inmediata.

Hasta la fecha, Stardog ha recaudado con éxito 40 millones de dólares en financiamiento y trabaja con destacados clientes, como NASA, el Departamento de Defensa, Raytheon y Bosch. Con la creciente demanda de soluciones de IA generativa, los servicios de Stardog se han vuelto esenciales para organizaciones en diversos sectores.

Presentando Karaoke: Revolucionando la IA en las Instalaciones

En colaboración con Nvidia y Supermicro, Stardog está lanzando “Karaoke”, un innovador servidor en las instalaciones diseñado para albergar la plataforma Voicebox Large Language Model (LLM) de Stardog. Esta solución de grado empresarial, una versión especializada de Llama 2 presentada en octubre de 2023, permite a los usuarios—sin importar su nivel técnico—realizar consultas en lenguaje natural en Stardog Cloud. Los usuarios pueden acceder de manera fluida a la información extraída de los datos estructurados de su empresa.

Como explica Clark, “Para grandes empresas, especialmente en industrias reguladas, mover todos los datos a la nube a menudo no es viable. Karaoke cierra esta brecha, trayendo capacidades de nube directamente al entorno local, permitiendo a las empresas aprovechar IA generativa mientras mantienen la accesibilidad de los datos.”

Configuraciones de Servidor Flexibles

Karaoke se ofrece en varios tamaños, desde el servidor Micro, que soporta 500 usuarios concurrentes, hasta el robusto modelo Enterprise con 2304 núcleos de CPU, capaz de atender hasta 20,000 usuarios.

Voicebox: El Traductor de Ciencia de Datos

El LLM Voicebox actúa como traductor de las consultas de los usuarios, transformando preguntas—como “¿Qué comercio sobre el euro en el último trimestre violó sanciones?”—en consultas relevantes de ciencia de datos (JavaScript, Python o SQL), permitiendo una recuperación precisa del Grafo de Conocimiento de Stardog.

Para garantizar la precisión y eliminar alucinaciones, Voicebox utiliza el diseño Safety RAG (Rapid Accuracy Guarantee). Como señala Clark, “Nunca presentamos una respuesta generada únicamente por el LLM. Los usuarios solo ven respuestas derivadas directamente de sus datos, lo que les permite confiar en los resultados.”

En lugar de simplemente resumir o recuperar datos, Voicebox traduce las consultas de los usuarios en formas programáticas que crearía un científico de datos. Si no puede interpretar una consulta, simplemente responde: “No sé cómo responder a tu pregunta.”

Transparencia y Trazabilidad

Voicebox también proporciona a los usuarios una huella digital, mostrando la fuente de la información recuperada, con citas y enlaces incluidos. Esta característica mejora la verificación, permitiendo a los usuarios confiar en los datos con seguridad. Como enfatiza Clark, “Nuestra plataforma garantiza trazabilidad y linaje, permitiendo a los usuarios validar respuestas y asegurar la integridad de los datos.”

Precios y Disponibilidad

Stardog planea ofrecer la capa Voicebox LLM por $39 por usuario al mes, operable en entornos de nube y nube privada virtual sin necesidad del Karaoke box. Los precios de la Karaoke box dependen del número de usuarios y especificaciones de hardware, con opciones de arrendamiento disponibles de 3 a 5 años.

Para industrias reguladas que buscan aprovechar la IA generativa mientras mantienen la conformidad, el Karaoke de Stardog se presenta como una solución efectiva. A medida que las empresas integran herramientas de IA en sus operaciones, Stardog está bien equipado para liderar el despliegue seguro de aplicaciones de IA generativa en las instalaciones.

Most people like

Find AI tools in YBX