Сегодня стартап LangChain, революционизирующий разработку приложений на базе больших языковых моделей (LLM) с помощью своей открытой платформы, объявил о завершении раунда финансирования Series A на сумму 25 миллионов долларов, возглавляемого Sequoia Capital. Компания также запускает LangSmith — свой первый коммерчески доступный продукт LLMOps.
LangSmith представляет собой универсальную платформу, которая ускоряет рабочие процессы разработки LLM-приложений и охватывает полный жизненный цикл проекта — от разработки и тестирования до развертывания и мониторинга. Запущенная в закрытом бета-тестировании в июле 2023 года, она уже используется тысячами предприятий ежемесячно.
Введение LangSmith происходит в критический момент, когда разработчики ищут надежные решения для создания и поддержания высокопроизводительных и надежных LLM-приложений.
Ключевые особенности LangSmith от LangChain
Открытая платформа LangChain предоставляет разработчикам обширный набор инструментов, позволяя использовать общие лучшие практики и модульные компоненты для создания приложений на базе LLM. Разработчики могут интегрировать несколько LLM через API, объединять их в цепочки и подключать к источникам данных для выполнения различных задач. То, что начиналось как побочный проект, теперь стало основой более 5000 LLM-приложений в таких областях, как внутренние инструменты, автономные агенты, игры и автоматизация чатов.
Однако простое предоставление инструментов разработки недостаточно для преодоления множества проблем, связанных с внедрением LLM-приложений. Здесь на помощь приходит LangSmith, предлагая возможности для отладки, тестирования и эффективного мониторинга LLM-приложений.
Поддерживаемые рабочие процессы с LangSmith
На этапе прототипирования LangSmith обеспечивает полную видимость последовательности вызовов LLM, позволяя разработчикам выявлять ошибки и узкие места в производительности в реальном времени. Они могут сотрудничать со специалистами для уточнения поведения приложения и использовать отзывы пользователей или оценки с помощью ИИ для обеспечения релевантности, правильности и чувствительности.
После доработки прототипа LangSmith упрощает процесс развертывания через хостинг LangServe, предоставляя при этом актуальные данные о производственных метриках, таких как затраты, задержки, аномалии и ошибки. Это позволяет предприятиям предоставлять LLM-приложения, оптимизирующие как производительность, так и экономическую эффективность.
Сильный ранний интерес
В недавнем блоге Соня Хуан и Роми Бойд из Sequoia отметили, что LangSmith уже привлек более 70,000 регистраций с момента запуска закрытого бета-тестирования. Более 5000 компаний, включая такие известные имена, как Rakuten, Elastic, Moody’s и Retool, в настоящее время используют эту технологию.
“Elastic использует LangChain для обpower своего Elastic AI Assistant по безопасности и полагается на LangSmith для видимости, что обеспечивает быстрые развертывания. Rakuten применяет LangSmith для тщательного тестирования и бенчмаркинга своего Rakuten AI for Business, созданного на LangChain. Moody’s использует автоматизированную оценку LangSmith для быстрой итерации и инноваций,” подчеркнули Хуан и Бойд.
Хотя LangSmith уже завоевывает популярность, ожидается, что его использование резко возрастет с выходом в публичный доступ на фоне быстро меняющегося рынка ИИ.
“Команда решает сложные задачи, вдохновляемые активным сообществом пользователей, жаждущим решений,” отметили руководители Sequoia, подчеркивая, что это только начало для LangChain.
В будущем LangChain планирует расширить функциональность LangSmith, добавив такие возможности, как регрессионное тестирование, онлайн-оценщики, использующие производственные данные, улучшенная фильтрация, поддержка разговоров и упрощенное развертывание приложений с помощью LangServe. Компания также стремится представить функции уровня предприятия для администрирования и безопасности.
После этого раунда финансирования от Sequoia LangChain привлек в общей сложности 35 миллионов долларов, ранее получив 10 миллионов долларов от Benchmark. Другие решения для оценки и мониторинга LLM-приложений включают TruEra’s TruLens, W&B Prompts и Arize’s Phoenix.
Рейтинг
