本日、オープンソースのフレームワークであるLangChainが大規模言語モデル（LLM）のアプリケーション開発を革新するスタートアップとして、セコイア・キャピタル主導の2500万ドルのSiriーズA資金調達を発表しました。同社は、自社の初の商業用LLMOps製品であるLangSmithも発表しました。
LangSmithは、開発、テスト、デプロイ、モニタリングまでのプロジェクトライフサイクル全体をカバーするオールインワンプラットフォームとして設計されています。2023年7月にクローズドベータが開始されて以来、すでに数千の企業に毎月利用されています。
LangChainのLangSmithの主な機能
LangChainのオープンソースフレームワークは、開発者に包括的なツールキットを提供し、LLM対応アプリケーションを構築するための共通のベストプラクティスとモジュール式の構成要素を提供します。開発者は、APIを通じて複数のLLMを統合し、連携させ、データソースと接続してさまざまなタスクを実行できます。もともとはサイドプロジェクトとして始まったこの技術は、社内ツール、自律エージェント、ゲーム、チャット自動化といった多様な領域で5000以上のLLMアプリケーションの基盤となっています。
しかし、開発ツールキットを提供するだけでは、LLMアプリケーションを本番環境に展開する際の数多くの課題を克服するには不十分です。ここでLangSmithが登場し、LLMアプリケーションを効果的にデバッグ、テスト、監視するための機能を提供します。
LangSmithによるサポートワークフロー
プロトタイピングの段階では、LangSmithは開発者に対してLLM呼び出しのシーケンスの完全な可視性を提供し、リアルタイムでエラーやパフォーマンスのボトルネックを特定できるようにします。専門家と協力し、アプリケーションの挙動を改善し、人間のフィードバックやAI支援の評価を活用して関連性、正確性、感度を保証します。
プロトタイプが改善された後、LangSmithはホスティングされたLangServeを通じてデプロイメントプロセスを簡素化し、コスト、レイテンシ、異常、エラーなどの生産メトリクスに関するリアルタイムの洞察を提供します。これにより、企業はパフォーマンスとコスト効率の両方を最適化したLLMアプリケーションを提供できるようになります。
早期の強い採用
最近のブログ記事で、セコイアのソニア・ファンとロミー・ボイドは、LangSmithがクローズドベータの開始から70000以上のサインアップを獲得したと報告しました。楽天、エラスティック、ムーディーズ、リツールといった著名な企業を含む5000社以上がこの技術を活用しています。
「エラスティックはLangChainを利用してセキュリティ向けのElastic AI Assistantを強化し、LangSmithを使って可視性を確保し、迅速な生産を実現しています。楽天では、LangSmithを使用してLangChainの基盤の上に構築されたRakuten AI for Businessの厳格なテストとベンチマーキングを行っています。ムーディーズは、迅速な反復とイノベーションのためにLangSmithの自動評価から利益を得ています」と、ファンとボイドは強調しました。
LangSmithはすでに勢いを増していますが、AIの急速に進化する環境の中で、一般公開されることでさらなる採用の高まりが見込まれています。
「チームは豊富な問題空間に取り組んでおり、解決策を求める情熱的なユーザーコミュニティに導かれています」とセコイアの幹部は述べ、LangChainの始まりにすぎないことを強調しました。
今後、LangChainはLangSmithの機能を拡大し、回帰テスト、生産データを用いたオンライン評価、強化フィルタリング、会話サポート、ホスティングされたLangServeによるアプリケーション展開の簡素化といった機能を追加する予定です。また、管理およびセキュリティのための企業グレードの機能も導入を目指しています。
セコイアからの今回の資金調達以降、LangChainは総額3500万ドルを調達し、以前にベンチマークから1000万ドルを確保しています。LLMアプリケーションの評価および監視における他のソリューションには、TruEraのTruLens、W&B Prompts、ArizeのPhoenixがあります。
ランキング
