Cuando un sistema de inteligencia artificial genera contenido inexacto—frecuentemente denominado “alucinación”—los resultados no siempre son graves. Sin embargo, si un sistema de IA utilizado en tecnología militar alucina, las implicaciones pueden ser mucho más severas.
Jaxon AI comenzó desarrollando sistemas de IA para la Fuerza Aérea de EE. UU., enfocándose en la fiabilidad y precisión. Ahora, la empresa se está expandiendo al mercado empresarial con su Lenguaje de IA Específico de Dominio (DSAIL), diseñado para abordar los problemas críticos de alucinaciones e inexactitudes en los grandes modelos de lenguaje (LLMs). Esta tecnología integra los modelos fundamentales de IBM watsonx, representando un nuevo enfoque para crear soluciones de IA más confiables.
Cómo DSAIL Minimiza los Riesgos de Alucinación de IA
La alucinación ocurre cuando una IA produce respuestas inexactas, a menudo debido a datos de entrenamiento incompletos o a la falta de verificación. El marco DSAIL mitiga este riesgo transformando las entradas de lenguaje natural en un formato binario. Este formato pasa por una serie de verificaciones—similar a un satisfacedor booleano—para asegurar que la respuesta de la IA cumpla todas las restricciones antes de su entrega, mejorando así su fiabilidad para aplicaciones prácticas.
Una estrategia común para reducir las alucinaciones es la Generación Aumentada por Recuperación (RAG). En este modelo, el LLM accede a una base de conocimientos para proporcionar respuestas precisas. Cohen señaló que, aunque RAG forma parte de la metodología de DSAIL, los resultados aún deben pasar por verificaciones adicionales antes de ser finalizados, reduciendo aún más la posibilidad de alucinación.
El Papel de IBM watsonx en los Sistemas de IA de Jaxon
Jaxon aprovecha los modelos de la biblioteca watsonx de IBM como componentes integrales de sus sistemas de IA. En particular, el modelo IBM StarCoder facilita la generación de código al producir automáticamente un código inicial para proyectos de IA basado en especificaciones de diseño recopiladas durante el proceso.
StarCoder, una iniciativa de código abierto lanzada en mayo con el apoyo de ServiceNow y Hugging Face, es una de las varias herramientas de generación de código dentro de la biblioteca watsonx de IBM. Savio Rodrigues, VP de ingeniería de ecosistemas y defensa del desarrollador en IBM, confirmó que IBM fue uno de los contribuyentes fundadores del proyecto StarCoder y destacó su colaboración con Hugging Face para mejorar el acceso empresarial a modelos abiertos.
Si bien StarCoder demuestra amplias capacidades, IBM también ofrece modelos de generación de código especializados para aplicaciones específicas, como la migración de COBOL y el desarrollo de computación cuántica.
La Posición Estratégica de IBM en el Mercado de IA Generativa
El panorama de la IA generativa y los LLM es competitivo, con actores principales como OpenAI, Microsoft, Google y AWS. IBM busca su parte de este mercado apoyando a desarrolladores y proveedores de software independientes (ISVs) como Jaxon AI a través de su programa IBM Build.
IBM Build proporciona a sus socios acceso a watsonx, soporte técnico y asistencia para salir al mercado. El objetivo es ofrecer modelos fundamentales de IA confiables caracterizados por precios, rendimiento y fiabilidad consistentes. “Nuestros clientes confían en el enfoque de IBM hacia la IA, particularmente en el entrenamiento de modelos y los controles legales que implementamos,” enfatizó Rodrigues.
Clasificación
