Kong Presenta su Puerta de Enlace de IA para que las Empresas Gestionen y Escalen Soluciones de IA Generativa

Kong Inc., un líder en tecnologías de API en la nube, ha lanzado el Kong AI Gateway, un gateway de API nativo de inteligencia artificial diseñado para gobernar y asegurar cargas de trabajo de IA generativa en cualquier entorno de nube. Tras su lanzamiento beta en febrero, el producto ha ganado considerable impulso mientras las organizaciones buscan operacionalizar la IA generativa.

El Kong AI Gateway incluye un conjunto integral de capacidades de infraestructura adaptadas para IA, tales como soporte para múltiples modelos de lenguaje grande (LLMs), almacenamiento en caché semántico, enrutamiento semántico, cortafuegos semántico y gestión del ciclo de vida de modelos. Se integra perfectamente con la plataforma de API existente de Kong, permitiendo a las empresas gestionar la IA junto con las API tradicionales.

“Las organizaciones y los desarrolladores están creando casos de uso innovadores de IA generativa para mejorar la experiencia del usuario y del cliente. Sin embargo, escalar esta tecnología de vanguardia en producción requiere una infraestructura robusta,” explicó Marco Palladino, CTO y cofundador de Kong.

Palladino sostiene que el Kong AI Gateway representa una de las tecnologías de infraestructura de IA más avanzadas disponibles, aprovechando las características establecidas de la puerta de enlace de Kong al tiempo que proporciona funciones extensas específicas para IA. Comparó esta evolución con los primeros días de las API, que ganaron tracción una vez que se estableció la infraestructura adecuada para apoyar a los desarrolladores.

Como un hub central, el Kong AI Gateway ofrece una interfaz de API unificada para gestionar y asegurar diversas tecnologías de IA a través de aplicaciones. Sus amplias capacidades abarcan gobernanza, observabilidad y seguridad, lo que permite a las empresas implementar y escalar iniciativas de IA generativa de manera efectiva.

Una ventaja significativa del Kong AI Gateway es su capacidad para introspectar el tráfico de IA y crear una API unificada para acceder a múltiples proveedores de IA. “A diferencia de otras plataformas de gestión de API que tratan las API de LLM como API estándar, Kong eleva el enfoque,” señaló Palladino.

El gateway ofrece características robustas como seguridad en las solicitudes, cumplimiento, gobernanza, plantillas y gestión del ciclo de vida en torno a las solicitudes de IA. Además, proporciona métricas de observabilidad "L7 AI", que ofrecen información sobre el rendimiento de los proveedores, uso de tokens y costos; un nivel de detalle que, según Palladino, falta a sus competidores.

El plano de control unificado de Kong, Kong Konnect, facilita la monetización de modelos de IA ajustados junto con las API tradicionales. “La próxima frontera en la monetización de API son los modelos mismos,” explicó Palladino. “Ajustar modelos con inteligencia corporativa propietaria tiene un valor significativo.”

El lanzamiento se produce en medio de un aumento de interés en la IA generativa, especialmente tras el éxito de ChatGPT de OpenAI. Sin embargo, muchas empresas enfrentan desafíos para desplegar y gobernar efectivamente la tecnología. Kong busca simplificar este proceso con su gateway especializado en IA.

“Cada empresa estaba ansiosa por replicar lo que hemos creado,” observó Palladino, citando la demanda abrumadora como el catalizador para acelerar el producto hacia su disponibilidad general. “Ya tenemos clientes empresariales utilizando esta capacidad en producción, incluso con la versión beta.”

Fundada originalmente como Mashape en 2009 y rebautizada como Kong en 2017, la compañía ha recaudado más de $170 millones en fondos de capital de riesgo y apoya billones de transacciones de API para más de 500 organizaciones globales. Con su enfoque estratégico en infraestructura nativa de IA, Kong está bien posicionada para liderar la próxima ola de adopción de IA generativa en entornos empresariales.

“Para desbloquear la IA generativa a gran escala, es crítico desplegar la infraestructura de IA adecuada,” concluyó Palladino. “Kong AI Gateway es precisamente esa solución.”