LangChain lève 25 millions de dollars lors d'un tour de financement et dévoile une nouvelle plateforme pour améliorer l'ensemble du cycle de vie des applications LLM.

Aujourd'hui, LangChain, la startup qui révolutionne le développement d’applications basées sur les grands modèles de langage (LLM) grâce à son cadre open-source, a annoncé une levée de fonds de 25 millions de dollars lors d'un tour de financement de série A dirigé par Sequoia Capital. La société lance également LangSmith, son premier produit LLMOps disponible commercialement.

LangSmith est conçu comme une plateforme tout-en-un qui accélère les flux de travail liés aux applications LLM, couvrant l'ensemble du cycle de vie du projet — du développement et des tests au déploiement et à la surveillance. Lancé en bêta fermée en juillet 2023, il est déjà utilisé par des milliers d'entreprises chaque mois.

L’introduction de LangSmith intervient à un moment crucial, alors que les développeurs recherchent des solutions fiables pour créer et maintenir des applications LLM performantes et fiables.

Fonctionnalités clés de LangSmith de LangChain

Le cadre open-source de LangChain empower les développeurs avec un ensemble complet d'outils, fournissant un ensemble commun de meilleures pratiques et de modules pour créer des applications alimentées par des LLM. Les développeurs peuvent intégrer plusieurs LLM via des APIs, les enchaîner et les connecter à des sources de données pour réaliser diverses tâches. Ce qui a commencé comme un projet secondaire est désormais devenu la colonne vertébrale de plus de 5 000 applications LLM, couvrant des domaines tels que les outils internes, les agents autonomes, les jeux et l'automatisation des conversations.

Cependant, fournir un kit de développement ne suffit pas pour surmonter les défis multiples liés à la mise en production des applications LLM. C'est ici que LangSmith entre en jeu, offrant des capacités pour déboguer, tester et surveiller efficacement les applications LLM.

Flux de travail pris en charge par LangSmith

Au cours de la phase de prototypage, LangSmith offre aux développeurs une visibilité complète sur la séquence des appels LLM, leur permettant d'identifier les erreurs et les goulets d'étranglement de performance en temps réel. Ils peuvent collaborer avec des experts en la matière pour affiner le comportement de l'application et utiliser le retour humain ou l'évaluation assistée par l'IA pour garantir la pertinence, l'exactitude et la sensibilité.

Une fois le prototype affiné, LangSmith simplifie le processus de déploiement grâce à LangServe hébergé tout en offrant des insights en temps réel sur des métriques de production telles que les coûts, la latence, les anomalies et les erreurs. Cela permet aux entreprises de livrer des applications LLM qui optimisent à la fois la performance et l'efficacité des coûts.

Adoption précoce réussie

Dans un article de blog récent, Sonya Huang et Romie Boyd de Sequoia ont signalé que LangSmith a enregistré plus de 70 000 inscriptions depuis son lancement en bêta fermée. Plus de 5 000 entreprises, notamment des noms renommés tels que Rakuten, Elastic, Moody's et Retool, exploitent actuellement cette technologie.

« Elastic utilise LangChain pour alimenter leur assistant AI Elastic en matière de sécurité et s’appuie sur LangSmith pour obtenir de la visibilité, permettant une mise en production rapide. Rakuten utilise LangSmith pour des tests rigoureux et l’évaluation de son Rakuten AI for Business, construit sur LangChain. Moody's bénéficie de l'évaluation automatisée de LangSmith pour une itération rapide et une innovation », ont souligné Huang et Boyd.

Bien que LangSmith ait déjà du succès, son adoption devrait augmenter à mesure qu'il deviendra disponible publiquement dans un paysage IA en rapide évolution.

« L'équipe s'attaque à un domaine riche en problématiques, guidée par une communauté d'utilisateurs passionnée en quête de solutions », ont noté les dirigeants de Sequoia, soulignant que ce n'est que le début pour LangChain.

À l'avenir, LangChain prévoit d'élargir les fonctionnalités de LangSmith avec des ajouts tels que des tests de régression, des évaluateurs en ligne utilisant des données de production, un filtrage amélioré, un support conversationnel et un déploiement d'application simplifié avec LangServe hébergé. La société vise également à introduire des fonctionnalités de niveau entreprise pour l'administration et la sécurité.

Suite à ce tour de financement de Sequoia, LangChain a levé un total de 35 millions de dollars, ayant précédemment obtenu 10 millions de dollars lors d'un tour dirigé par Benchmark. D'autres solutions pour l'évaluation et la surveillance des applications LLM incluent TruEra’s TruLens, W&B Prompts et Arize’s Phoenix.