Databricks улучшает инструменты для разработчиков корпоративного генеративного ИИ значительными обновлениями своей платформы Mosaic AI, представленными на ежегодной конференции по данным и ИИ, под руководством CEO Али Годси. Эти улучшения направлены на то, чтобы помочь предприятиям эффективно внедрять приложения с использованием больших языковых моделей (LLMs).
Платформа Mosaic AI, результат приобретения Databricks компании MosaicML за 1,3 миллиарда долларов, расширяет возможности в области генеративного ИИ, упрощая разработку ИИ-приложений. Новые функции сосредоточены на трех основных направлениях: 1. создание сложных ИИ-систем, 2. оценка этих систем по различным критериям и 3. обеспечение управления на всех этапах работы с ИИ.
Эта мощная экосистема позволяет организациям создавать надежные приложения генеративного ИИ, использующие их данные. Она также укрепляет конкурентные позиции Databricks в сравнении со Snowflake, который расширяет свои предложения в области генеративного ИИ, включая недавний запуск своего корпоративного открытого LLM "Arctic", нацеленного на конкуренцию с DBRX от Databricks.
Что нового в Databricks Mosaic AI?
Организации, заинтересованные в генеративном ИИ, стремятся использовать эту инновационную технологию для разработки приложений на основе внутренних данных. Однако многие команды испытывают трудности с реализацией ожидаемой отдачи от инвестиций в большие модели и зачастую сталкиваются с проблемами обеспечения высококачественных результатов в рамках бюджетных и конфиденциальных ограничений.
Чтобы справиться с этими проблемами, компании все чаще внедряют сложные ИИ-системы на основе retrieval augmented generation (RAG), которые интегрируют различные малые модели, извлекатели, векторные базы данных и инструменты для оценки, мониторинга, безопасности и управления. Databricks усовершенствовал Mosaic AI для упрощения создания таких систем.
Недавно Databricks представил Vector AI search как безсерверную векторную базу данных, интегрированную в свою платформу. Новые функции включают обучение моделей Mosaic AI и Агентский фреймворк. Функция обучения моделей позволяет пользователям настраивать небольшие открытые базовые модели через удобный API или интерфейс, оптимизируя знания для конкретных задач при сохранении экономичности. Тем временем Агентский фреймворк, в сочетании с Mosaic AI Vector Search и Model Serving, поддерживает создание высококачественных RAG-приложений с использованием этих настроенных моделей.
«Во-первых, Агентский фреймворк упрощает измерение и оценку качества приложений с помощью Agent Evaluation», объяснил Джоэл Минник, вице-президент по продуктовому маркетингу в Databricks. «Он включает в себя запатентованные инструменты оценки с AI, которые автоматически оценивают качество результатов, а также интуитивный интерфейс для обратной связи со сторонними участниками. Это позволяет разработчикам тестировать гипотезы, быстро вносить изменения и эффективно повторно разворачивать приложения в рамках полного рабочего процесса LLMOps».
Платформа также включает в себя Каталог инструментов ИИ, который позволяет организациям управлять, делиться и регистрировать инструменты через Databricks Unity Catalog, недавно ставший открытым исходным кодом. Этот каталог улучшает сложные ИИ-системы, оснащая их такими возможностями, как интеллектуальная генерация кода, веб-поиск и вызовы API. Любая зарегистрированная функция на Python или SQL в Unity Catalog совместима с Каталогом инструментов Mosaic AI, что улучшает качество результатов.
Улучшенное управление с Mosaic AI Gateway
Чтобы обеспечить надежное управление и доверие к приложениям ИИ, Databricks представляет "Mosaic AI Gateway". Этот инструмент предоставляет унифицированный интерфейс для запроса, управления и развертывания как открытых, так и проприетарных моделей, позволяя командам заменять LLM без значительных изменений в коде.
Ключевым моментом является то, что AI Gateway оснащен встроенными функциями управления и мониторинга. Он позволяет отслеживать использование и устанавливать регламенты, что позволяет организациям контролировать использование моделей и устанавливать лимиты на расходы при фильтрации безопасности и персонально идентифицируемой информации.
Все новые предложения для Mosaic AI, кроме Каталога инструментов ИИ, находятся на этапе публичного предварительного просмотра и будут доступны в ближайшие месяцы. Каталог инструментов ИИ находится на этапе частного предварительного просмотра, с отсутствием объявленного графика для более широкого выпуска. Кроме того, на мероприятии Databricks представил несколько других значимых продуктов, включая Databricks AI/BI для генеративного ИИ-анализа, Databricks LakeFlow для обработки данных и специализированную модель генерации изображений, разработанную в партнерстве с Shutterstock.
Конференция Databricks Data and AI Summit пройдет с 10 по 13 июня 2024 года.
Рейтинг
