LangChain, 2억 5천만 달러 자금 확보, LLM 애플리케이션 라이프사이클 개선을 위한 새로운 플랫폼 발표

오늘, 대형 언어 모델(LLM) 애플리케이션 개발을 혁신하는 스타트업 LangChain은 Sequoia Capital 주도로 2,500만 달러 규모의 시리즈 A 자금 조달을 발표했습니다. 또한, LangChain은 상용 LLMOps 제품인 LangSmith를 출시합니다.

LangSmith는 LLM 애플리케이션 워크플로우를 가속화하는 올인원 플랫폼으로, 개발 및 테스트, 배포 및 모니터링 등 프로젝트 전체 라이프사이클을 포괄하도록 설계되었습니다. 2023년 7월에 폐쇄 베타로 출시된 LangSmith는 이미 수천 개의 기업에서 매월 사용되고 있습니다.

LangSmith의 출시는 개발자들이 고성능의 신뢰할 수 있는 LLM 애플리케이션을 구축하고 유지하기 위한 강력한 솔루션을 찾는 중요한 시점에서 이루어졌습니다.

LangChain의 LangSmith 주요 기능

LangChain의 오픈소스 프레임워크는 개발자에게 포괄적인 툴킷을 제공하며, LLM 기반 애플리케이션 생성을 위한 모듈형 빌딩 블록과 모범 사례 세트를 공유합니다. 개발자는 API를 통해 여러 LLM을 통합하고, 이를 연결하여 다양한 작업을 수행할 수 있습니다. 한때 사이드 프로젝트로 시작된 LangChain은 이제 5,000개 이상의 LLM 애플리케이션의 중추 역할을 하며, 내부 도구, 자율 에이전트, 게임, 채팅 자동화 등 다양한 분야에서 사용되고 있습니다.

하지만 단순히 개발 툴킷을 제공하는 것으로는 LLM 애플리케이션을 생산 환경에 적용하는 데 필요한 수많은 도전을 극복할 수 없습니다. 이 부분에서 LangSmith가 등장해 LLM 애플리케이션을 효과적으로 디버깅, 테스트 및 모니터링하는 기능을 제공합니다.

LangSmith와 함께하는 지원 워크플로우

프로토타이핑 단계에서 LangSmith는 개발자에게 LLM 호출의 순서를 완전히 가시화하여 실시간으로 오류와 성능 병목 현상을 식별할 수 있도록 합니다. 개발자는 주제 전문가와 협력하여 애플리케이션 행동을 개선하고, 인간 피드백 또는 AI 지원 평가를 활용하여 관련성, 정확성, 민감성을 우선시합니다.

프로토타입이 개선되면, LangSmith는 호스팅된 LangServe를 통해 배포 프로세스를 단순화하며, 비용, 지연, 이상 징후 및 오류와 같은 생산 메트릭에 대한 실시간 통찰력을 제공합니다. 이를 통해 기업은 성능과 비용 효율성을 최적화하는 LLM 애플리케이션을 제공할 수 있습니다.

강력한 초기 채택

최근 블로그 포스트에서 Sonya Huang과 Romie Boyd는 LangSmith가 폐쇄 베타 출시 이후 70,000건 이상의 가입자를 확보했다고 전했습니다. Rakuten, Elastic, Moody’s, Retool 등의 유명 기업을 포함해 5,000개 이상의 기업이 현재 이 기술을 활용하고 있습니다.

“Huang과 Boyd는 ‘Elastic은 LangChain을 사용하여 Elastic AI Assistant를 보안에 활용하며, LangSmith를 통해 가시성을 확보하여 빠른 생산을 가능하게 합니다. Rakuten은 LangSmith를 사용해 LangChain 기반의 Rakuten AI for Business의 철저한 테스트 및 벤치마킹을 수행합니다. Moody’s는 LangSmith의 자동 평가로 신속한 반복 및 혁신을 이루고 있습니다’라고 강조했습니다.

LangSmith는 현재 이미 주목받고 있으며, 빠르게 발전하는 AI 환경에서 공개적으로 제공됨에 따라 채택이 급증할 것으로 예상됩니다.

“팀은 해결책을 열망하는 열정적인 사용자 커뮤니티에 의해 안내받아 풍부한 문제 공간을 다루고 있다”고 Sequoia 임원들이 언급하며, 이는 LangChain의 시작에 불과하다고 강조했습니다.

앞으로 LangChain은 회귀 테스트, 생산 데이터를 활용한 온라인 평가자, 향상된 필터링, 대화 지원, 및 호스팅된 LangServe를 통한 간단한 애플리케이션 배포와 같은 기능으로 LangSmith의 기능을 확장할 계획입니다. 또한, 회사는 관리 및 보안을 위한 엔터프라이즈급 기능을 도입할 예정입니다.

Sequoia의 이번 자금 조달 이후, LangChain은 총 3,500만 달러를 조달했으며, 이전에 Benchmark와 함께 1,000만 달러를 확보했습니다. LLM 애플리케이션 평가 및 모니터링을 위한 다른 솔루션으로는 TruEra의 TruLens, W&B Prompts 및 Arize의 Phoenix가 있습니다.