Heute hat LangChain, das Start-up, das die Entwicklung von Anwendungen für große Sprachmodelle (LLM) mit seinem Open-Source-Framework revolutioniert, eine Serie-A-Finanzierungsrunde in Höhe von 25 Millionen Dollar unter der Leitung von Sequoia Capital angekündigt. Das Unternehmen präsentiert zudem LangSmith, sein erstes kommerziell verfügbares LLMOps-Produkt.
LangSmith dient als umfassende Plattform zur Beschleunigung von LLM-Anwendungsabläufen und deckt den gesamten Projektlebenszyklus ab – von der Entwicklung und dem Testen bis hin zur Bereitstellung und Überwachung. Die geschlossene Beta wurde im Juli 2023 gestartet und wird bereits monatlich von Tausenden von Unternehmen genutzt.
Die Einführung von LangSmith erfolgt zu einem entscheidenden Zeitpunkt, da Entwickler nach robusten Lösungen suchen, um leistungsstarke, zuverlässige LLM-Anwendungen zu erstellen und zu warten.
Hauptmerkmale von LangChains LangSmith
Das Open-Source-Framework von LangChain bietet Entwicklern ein umfassendes Toolkit mit einer gemeinsamen Sammlung bewährter Verfahren und modularer Bausteine zum Erstellen LLM-gesteuerter Anwendungen. Entwickler können mehrere LLMs über APIs integrieren, sie miteinander verketten und mit Datenquellen verbinden, um eine Vielzahl von Aufgaben zu erledigen. Was einst als Nebenprojekt begann, ist nun das Rückgrat von über 5.000 LLM-Anwendungen in Bereichen wie interne Werkzeuge, autonome Agenten, Gaming und Chat-Automatisierung.
Jedoch reicht das Angebot eines Entwicklungstools nicht aus, um die zahlreichen Herausforderungen bei der Produktionsreife von LLM-Anwendungen zu bewältigen. Hier kommt LangSmith ins Spiel, das effektive Funktionen zum Debuggen, Testen und Überwachen von LLM-Anwendungen bietet.
Unterstützte Arbeitsabläufe mit LangSmith
In der Prototyping-Phase ermöglicht LangSmith Entwicklern vollständige Einblicke in die Abfolge der LLM-Aufrufe, sodass sie Fehler und Leistungsengpässe in Echtzeit identifizieren können. Sie können mit Experten zusammenarbeiten, um das Verhalten der Anwendung zu verfeinern, sowie menschliches Feedback oder KI-unterstützte Bewertungen nutzen, um Relevanz, Genauigkeit und Sensibilität sicherzustellen.
Sobald ein Prototyp verfeinert ist, vereinfacht LangSmith den Bereitstellungsprozess über LangServe und bietet Echtzeit-Einblicke in Produktionskennzahlen wie Kosten, Latenz, Anomalien und Fehler. Dies befähigt Unternehmen, LLM-Anwendungen zu liefern, die sowohl die Leistung als auch die Kosteneffizienz optimieren.
Starkes frühes Interesse
In einem aktuellen Blogbeitrag berichteten Sonya Huang und Romie Boyd von Sequoia, dass LangSmith seit dem Start der geschlossenen Beta über 70.000 Anmeldungen erhalten hat. Mehr als 5.000 Unternehmen, darunter namhafte Firmen wie Rakuten, Elastic, Moody’s und Retool, nutzen derzeit die Technologie.
„Elastic nutzt LangChain, um ihren Elastic AI Assistant für Sicherheit zu betreiben und verlässt sich auf LangSmith für Einsichten, die eine schnelle Produktion ermöglichen. Rakuten verwendet LangSmith für umfassende Tests und Benchmarking ihrer Rakuten AI for Business, die auf LangChain basiert. Moody’s profitiert von LangSmiths automatisierter Bewertung für schnelle Iterationen und Innovationen“, hoben Huang und Boyd hervor.
Während LangSmith bereits an Fahrt gewinnt, wird ein Anstieg der Akzeptanz erwartet, wenn es in einem sich schnell entwickelnden KI-Umfeld öffentlich verfügbar wird.
„Das Team adressiert einen reichhaltigen Problembereich, geleitet von einer leidenschaftlichen Nutzer-Community, die nach Lösungen sucht“, bemerkten die Sequoia-Executives und betonten, dass dies erst der Anfang für LangChain sei.
In Zukunft plant LangChain, die Funktionen von LangSmith mit Features wie Regressionstests, Online-Bewertungen unter Nutzung von Produktionsdaten, verbesserten Filtern, Unterstützung für Konversationen und einer vereinfachten Anwendungsbereitstellung über LangServe weiter auszubauen. Das Unternehmen beabsichtigt auch, enterprise-grade Funktionen für Verwaltung und Sicherheit einzuführen.
Nach dieser Finanzierungsrunde von Sequoia hat LangChain insgesamt 35 Millionen Dollar gesammelt, nachdem zuvor 10 Millionen Dollar unter der Leitung von Benchmark gesichert wurden. Weitere Lösungen zur Bewertung und Überwachung von LLM-Anwendungen umfassen TruEra’s TruLens, W&B Prompts und Arize’s Phoenix.
Rangliste
