Hoje, a LangChain, a startup que está revolucionando o desenvolvimento de aplicações com modelos de linguagem grandes (LLM) por meio de sua estrutura de código aberto, anunciou uma rodada de financiamento Série A no valor de $25 milhões, liderada pela Sequoia Capital. A empresa também está lançando o LangSmith, seu primeiro produto LLMOps disponível comercialmente.
O LangSmith foi projetado como uma plataforma completa que acelera o fluxo de trabalho de aplicações LLM, abrangendo todo o ciclo de vida do projeto — desde o desenvolvimento e teste até a implementação e monitoramento. Lançado em beta fechada em julho de 2023, já é utilizado mensalmente por milhares de empresas.
A introdução do LangSmith ocorre em um momento crítico, já que os desenvolvedores buscam soluções robustas para construir e manter aplicações LLM de alto desempenho e confiáveis.
Principais Recursos do LangSmith da LangChain
A estrutura de código aberto da LangChain capacita os desenvolvedores com um conjunto abrangente de ferramentas, oferecendo um conjunto comum de melhores práticas e blocos de construção modular para criar aplicações impulsionadas por LLM. Os desenvolvedores podem integrar múltiplos LLMs por meio de APIs, conectá-los e conectá-los a fontes de dados para realizar diversas tarefas. O que começou como um projeto auxiliar se transformou na espinha dorsal de mais de 5.000 aplicações LLM, abrangendo áreas como ferramentas internas, agentes autônomos, jogos e automação de chat.
No entanto, apenas fornecer um kit de ferramentas de desenvolvimento não é suficiente para superar os numerosos desafios envolvidos na colocação de aplicações LLM em produção. É aqui que o LangSmith se destaca, oferecendo capacidades para depurar, testar e monitorar aplicações LLM de forma eficaz.
Fluxos de Trabalho Suportados pelo LangSmith
Durante a fase de prototipagem, o LangSmith oferece aos desenvolvedores total visibilidade sobre a sequência de chamadas LLM, permitindo identificar erros e gargalos de desempenho em tempo real. Eles podem colaborar com especialistas do setor para refinar o comportamento da aplicação e utilizar feedback humano ou avaliações assistidas por IA para garantir relevância, correção e sensibilidade.
Uma vez que o protótipo é refinado, o LangSmith simplifica o processo de implementação por meio do LangServe hospedado, ao mesmo tempo em que oferece insights em tempo real sobre métricas de produção, como custos, latência, anomalias e erros. Isso capacita as empresas a oferecer aplicações LLM que otimizam tanto o desempenho quanto a eficiência de custos.
Adoção Rápida
Em um recente post no blog, Sonya Huang e Romie Boyd da Sequoia relataram que o LangSmith conquistou mais de 70.000 inscrições desde seu lançamento em beta fechada. Mais de 5.000 empresas, incluindo nomes renomados como Rakuten, Elastic, Moody's e Retool, estão atualmente aproveitando a tecnologia.
"Elastic usa a LangChain para impulsionar seu Elastic AI Assistant para segurança e depende do LangSmith para visibilidade, permitindo uma produção rápida. A Rakuten utiliza o LangSmith para testes rigorosos e benchmarking de sua Rakuten AI for Business, construída na LangChain. A Moody's se beneficia da avaliação automatizada do LangSmith para iteração e inovação rápidas", destacaram Huang e Boyd.
Embora o LangSmith já esteja ganhando destaque, sua adoção deve aumentar ainda mais à medida que se tornar disponível publicamente em um cenário de IA em rápida evolução.
"A equipe está abordando um espaço de problemas rico, guiada por uma comunidade de usuários apaixonados e ansiosos por soluções", comentaram os executivos da Sequoia, enfatizando que este é apenas o começo para a LangChain.
Avançando, a LangChain planeja expandir as funcionalidades do LangSmith com recursos como testes de regressão, avaliadores online usando dados de produção, filtragem aprimorada, suporte a conversas e implementação simplificada de aplicações com o LangServe hospedado. A empresa também pretende introduzir recursos de nível empresarial para administração e segurança.
Após esta rodada de financiamento da Sequoia, a LangChain arrecadou um total de $35 milhões, tendo anteriormente garantido $10 milhões com a Benchmark liderando essa rodada. Outras soluções para avaliar e monitorar aplicações LLM incluem TruEra's TruLens, W&B Prompts e Phoenix da Arize.
Classificação
