Hoy, LangChain, la startup que está revolucionando el desarrollo de aplicaciones de modelos de lenguaje grandes (LLM) a través de su framework de código abierto, anunció una ronda de financiación Serie A de 25 millones de dólares liderada por Sequoia Capital. La compañía también está lanzando LangSmith, su primer producto LLMOps disponible comercialmente.
LangSmith está diseñado como una plataforma integral que acelera los flujos de trabajo de aplicaciones LLM, abarcando el ciclo completo del proyecto: desde el desarrollo y las pruebas hasta la implementación y el monitoreo. Lanzado en beta cerrada en julio de 2023, ya es utilizado mensualmente por miles de empresas.
La introducción de LangSmith llega en un momento crítico, ya que los desarrolladores buscan soluciones robustas para construir y mantener aplicaciones LLM de alto rendimiento y confiabilidad.
Características Clave de LangSmith de LangChain
El framework de código abierto de LangChain empodera a los desarrolladores con un conjunto completo de herramientas, ofreciendo un conjunto común de mejores prácticas y bloques de construcción modulares para crear aplicaciones potenciadas por LLM. Los desarrolladores pueden integrar múltiples LLMs a través de APIs, encadenarlos y conectarlos a fuentes de datos para realizar diversas tareas. Lo que comenzó como un proyecto secundario ahora se ha convertido en la columna vertebral de más de 5,000 aplicaciones LLM, abarcando áreas como herramientas internas, agentes autónomos, juegos y automatización de chat.
Sin embargo, simplemente proporcionar un kit de herramientas de desarrollo no es suficiente para superar los numerosos desafíos de llevar las aplicaciones LLM a producción. Aquí es donde entra LangSmith, ofreciendo capacidades para depurar, probar y monitorear aplicaciones LLM de manera efectiva.
Flujos de Trabajo Soportados por LangSmith
Durante la fase de prototipado, LangSmith proporciona a los desarrolladores una visibilidad completa sobre la secuencia de llamadas LLM, lo que les permite identificar errores y cuellos de botella de rendimiento en tiempo real. Pueden colaborar con expertos en la materia para refinar el comportamiento de la aplicación y utilizar retroalimentación humana o evaluación asistida por IA para asegurar la relevancia, corrección y sensibilidad.
Una vez que un prototipo ha sido refinado, LangSmith simplifica el proceso de implementación a través de LangServe alojado, ofreciendo además información en tiempo real sobre métricas de producción como costos, latencia, anomalías y errores. Esto permite a las empresas entregar aplicaciones LLM que optimizan tanto el rendimiento como la eficiencia de costos.
Fuerte Adopción Inicial
En una reciente publicación del blog, Sonya Huang y Romie Boyd de Sequoia informaron que LangSmith ha registrado más de 70,000 inscripciones desde su lanzamiento en beta cerrada. Más de 5,000 empresas, incluyendo nombres reconocidos como Rakuten, Elastic, Moody’s y Retool, están aprovechando actualmente la tecnología.
“Elastic utiliza LangChain para potenciar su Asistente de IA para seguridad y confía en LangSmith para obtener visibilidad, lo que permite una producción rápida. Rakuten emplea LangSmith para pruebas rigurosas y evaluación de su Rakuten AI for Business, construido sobre LangChain. Moody’s se beneficia de la evaluación automatizada de LangSmith para una rápida iteración e innovación,” destacaron Huang y Boyd.
A pesar de que LangSmith ya está ganando impulso, se espera que su adopción se dispare a medida que se haga disponible públicamente en un panorama de IA en rápida evolución.
“El equipo está abordando un amplio espectro de problemas, guiado por una comunidad de usuarios apasionados y ansiosos por soluciones,” comentaron los ejecutivos de Sequoia, enfatizando que este es solo el comienzo para LangChain.
De cara al futuro, LangChain planea expandir la funcionalidad de LangSmith con características como pruebas de regresión, evaluadores en línea utilizando datos de producción, filtrado mejorado, soporte para conversaciones y simplificación de la implementación de aplicaciones con LangServe alojado. La compañía también busca introducir características de nivel empresarial para administración y seguridad.
Tras esta ronda de financiación con Sequoia, LangChain ha recaudado un total de 35 millones de dólares, habiendo asegurado previamente 10 millones con Benchmark liderando esa ronda. Otras soluciones para evaluar y monitorear aplicaciones LLM incluyen TruEra’s TruLens, W&B Prompts y Arize’s Phoenix.
Clasificación
