Kong Inc., leader dans les technologies API cloud, a lancé le Kong AI Gateway, une passerelle API native à l'IA, conçue pour gouverner et sécuriser les charges de travail d'IA générative dans n'importe quel environnement cloud. Après sa sortie en version bêta en février, le produit a connu un franc succès alors que les organisations s'efforcent d'opérationnaliser l'IA générative.
Le Kong AI Gateway comprend une suite complète de capacités d'infrastructure adaptées à l'IA, telles que le support de plusieurs modèles de langage (LLMs), le caching sémantique, le routage sémantique, le pare-feu sémantique et la gestion du cycle de vie des modèles. Il s'intègre parfaitement à la plateforme API existante de Kong, permettant ainsi aux entreprises de gérer l'IA aux côtés des API traditionnelles.
« Les organisations et les développeurs créent des cas d'utilisation innovants en IA générative pour améliorer les expériences utilisateur et client. Cependant, la mise à l'échelle de cette technologie de pointe en production nécessite une infrastructure robuste », a expliqué Marco Palladino, CTO et co-fondateur de Kong.
Palladino affirme que le Kong AI Gateway représente l'une des technologies d'infrastructure IA les plus avancées disponibles, tirant parti des fonctionnalités établies de Kong tout en offrant des fonctionnalités spécifiques à l'IA. Il a comparé cette évolution aux débuts des API, qui ont pris de l'ampleur une fois que l'infrastructure adéquate a été mise en place pour soutenir les développeurs.
En tant que hub central, le Kong AI Gateway offre une interface API unifiée pour gérer et sécuriser diverses technologies IA à travers les applications. Ses capacités étendues englobent la gouvernance, l'observabilité et la sécurité, permettant aux entreprises de déployer et de faire évoluer les initiatives d'IA générative efficacement.
Un des principaux avantages du Kong AI Gateway est sa capacité à introspecter le trafic IA et à créer une API unifiée pour accéder à plusieurs fournisseurs d'IA. « Contrairement à d'autres plateformes de gestion API qui traitent les API LLM comme des API standards, Kong élève l'approche », a noté Palladino.
La passerelle propose des fonctionnalités robustes telles que la sécurité des prompts, la conformité, la gouvernance, le templating et la gestion du cycle de vie des prompts IA. De plus, elle fournit des « métriques d'observabilité L7 IA », offrant des aperçus sur la performance des fournisseurs, l'utilisation des tokens et les coûts, un niveau de détail dont, selon Palladino, les concurrents manquent.
Le plan de contrôle unifié de Kong, Kong Konnect, facilite la monétisation des modèles IA affinés aux côtés des API traditionnelles. « La prochaine frontière en matière de monétisation des API concerne les modèles eux-mêmes », a expliqué Palladino. « L'affinement des modèles avec des connaissances corporatives propriétaires a une valeur significative. »
Ce lancement survient amid une montée d'intérêt pour l'IA générative, notamment après le succès de ChatGPT d'OpenAI. Pourtant, de nombreuses entreprises rencontrent des difficultés à déployer et à gouverner efficacement cette technologie. Kong vise à simplifier ce processus avec sa passerelle IA spécialisée.
« Chaque entreprise était désireuse de reproduire ce que nous avons créé », a noté Palladino, citant une demande écrasante comme catalyseur pour accélérer la mise à disposition générale du produit. « Nous avons déjà des clients d'entreprise utilisant cette capacité en production, même avec la version bêta. »
Fondée à l'origine sous le nom de Mashape en 2009 et rebaptisée Kong en 2017, l’entreprise a levé plus de 170 millions de dollars en financement de capital-risque et prend en charge des trillions de transactions API pour plus de 500 organisations à travers le monde. Grâce à son focus stratégique sur l'infrastructure native à l'IA, Kong est bien positionnée pour conduire la prochaine vague d'adoption de l'IA générative dans les environnements d'entreprise.
« Pour déverrouiller l'IA générative à grande échelle, déployer la bonne infrastructure IA est essentiel », a conclu Palladino. « Kong AI Gateway est précisément cette solution. »
Classement
