LangChain获得2500万美元融资,全新平台助力全面优化LLM应用生命周期

今天,LangChain,这家通过开源框架正在革新大型语言模型(LLM)应用开发的初创公司,宣布完成由红杉资本主导的2500万美元A轮融资。同时,公司还推出了其首款商业化的LLMOps产品——LangSmith。

LangSmith是一个一体化平台,旨在加速LLM应用的工作流程,涵盖从开发、测试到部署和监控的整个项目生命周期。自2023年7月在封闭测试中发布以来,已被数千家企业每月广泛使用。

LangSmith的推出正值开发者急需强大解决方案,以构建和维护高性能、可靠的LLM应用的关键时刻。

LangChain的LangSmith主要特点

LangChain的开源框架为开发者提供了一个全面的工具包,包括一套通用的最佳实践和模块化构建块,帮助创建LLM驱动的应用。开发者可以通过API整合多个LLM,将其串联,并与数据源连接,以执行多种任务。从一个副项目发展为超过5000个LLM应用的支柱,覆盖内部工具、自主代理、游戏和聊天自动化等多个领域。

然而,仅提供开发工具包并不足以解决将LLM应用投入生产中的各种挑战。LangSmith正是为此而生,提供有效的调试、测试和监控LLM应用的能力。

LangSmith支持的工作流程

在原型阶段,LangSmith使开发者能够全面观察LLM调用的顺序,帮助他们实时识别错误和性能瓶颈。开发者可以与领域专家合作,优化应用行为,并利用人工反馈或AI辅助评估,确保应用的相关性、准确性和敏感性。

一旦原型得到完善,LangSmith通过托管的LangServe简化部署流程,同时提供有关生产成本、延迟、异常和错误的实时指标。这使企业能够交付既具高性能又具成本效益的LLM应用。

强劲的早期采纳

在最近的博客中,红杉资本的Sonya Huang和Romie Boyd提到,自封闭测试推出以来,LangSmith已吸引超过70,000个注册用户。包括乐天、Elastic、穆迪和Retool等知名企业在内的5000多家公司目前正在使用该技术。

Huang和Boyd强调:“Elastic利用LangChain为其安全的Elastic AI助理提供支持,并依赖LangSmith实现可见性,加速投入生产。乐天使用LangSmith对其基于LangChain构建的Rakuten AI for Business进行严格测试和基准测试。穆迪则借助LangSmith的自动评估实现快速迭代和创新。”

尽管LangSmith已逐渐获得关注,但预计随着它的公开发布,在快速发展的AI领域中,其采用率将激增。

红杉资本的高层表示:“团队正在解决一个丰富的问题空间,受到渴望解决方案的热情用户社区的引导。”他们强调,这仅仅是LangChain的开始。

未来发展规划

展望未来,LangChain计划扩展LangSmith的功能,包括回归测试、使用生产数据的在线评估、增强过滤、对话支持以及通过托管的LangServe简化应用部署。公司还预计推出面向企业级的管理和安全功能。

在本轮融资后,LangChain的总融资额已达3500万美元,此前以Benchmark为首的投资方已帮助其到账1000万美元。其他用于评估和监控LLM应用的解决方案还包括TruEra的TruLens、W&B Prompts和Arize的Phoenix。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles