Databricks 正在通过其 Mosaic AI 平台的重大升级，提升企业生成式 AI 开发者工具。这些升级在 CEO Ali Ghodsi 主导的年度数据与 AI 大会上发布，旨在帮助企业更有效地部署基于大语言模型（LLMs）的应用程序。
Mosaic AI 平台源于 Databricks 以 13 亿美元收购 MosaicML 的成果，增强了公司在生成式 AI 方面的能力，简化了 AI 应用开发。最新功能集中在三个主要领域：1. 构建复合 AI 系统，2. 在不同指标下评估这些系统，3. 确保整个 AI 流程的治理。
这一强大的端到端生态系统使组织能够创造可靠的生成式 AI 应用，以充分利用其数据。借助这些功能，Databricks 在与 Snowflake 的竞争中占据有利地位，后者也在扩大其生成式 AI 产品线，最近推出了面向企业的开放 LLM “Arctic”，旨在对抗 Databricks 的 DBRX。
Mosaic AI 的新功能
热衷于生成式 AI 的组织正急于利用这一创新技术，开发利用内部数据的应用。然而，许多团队在从大模型中实现预期投资回报时面临挑战，常常难以在预算和隐私限制内提供高质量输出。
为应对这些挑战，越来越多的企业采用基于检索增强生成（RAG）的复合 AI 系统，这些系统整合了多种小模型、检索器、向量数据库以及评估、监控、安全和治理工具。Databricks 对 Mosaic AI 进行了增强，以便更好地创建这些先进系统。
最近，Databricks 在其平台中引入了 Vector AI 搜索，作为无服务器的向量数据库。新增功能包括 Mosaic AI 模型训练和代理框架。模型训练功能允许用户通过用户友好的 API 或界面对小型开源基础模型进行微调，以优化特定任务的知识，同时保持成本效益。而代理框架则结合 Mosaic AI 向量搜索和模型服务，使用这些微调过的模型驱动高质量的 RAG 应用。
“首先，代理框架通过代理评估简化了应用质量的测量与评估。” Databricks 产品市场副总裁 Joel Minnick 解释道，“它包括专有的 AI 辅助评估工具，自动评估输出质量，并提供直观的跟踪界面以收集利益相关者反馈。这使开发者能够快速验证假设、迭代并在端到端的 LLMOps 工作流程中高效重新部署应用。”
该平台还提供 AI 工具目录，使组织能够通过最新开源的 Databricks Unity 目录，管理、共享和注册工具。这个目录使复合 AI 系统具有智能代码生成、网页搜索和 API 调用等能力。Unity 目录中注册的任何 Python 或 SQL 功能均与 Mosaic AI 工具目录兼容，从而提升输出质量。
Mosaic AI Gateway 的强化治理
为了确保 AI 应用的稳健治理与信任，Databricks 推出了“Mosaic AI Gateway”。该工具提供统一界面，用于查询、管理和部署开源与专有模型，使团队能够在不需大幅修改应用代码的情况下更换 LLM。
更为重要的是，AI Gateway 具备内置的治理和监控功能，能够实现使用跟踪和保护机制，使组织能够监控模型使用情况，并设置速率限制以控制成本，同时过滤安全和个人可识别信息。
除了 AI 工具目录，所有针对 Mosaic AI 的新功能目前均已公开预览，预计在未来几个月内全面提供。AI 工具目录则处于私有预览阶段，尚未公布更广泛发布的时间表。此外，Databricks 在此次活动上还展示了多款值得关注的产品，包括用于生成式 AI 驱动分析的 Databricks AI/BI、数据工程的 Databricks LakeFlow，以及与 Shutterstock 合作开发的专门图像生成模型。
Databricks 数据与 AI 峰会将于 2024 年 6 月 10日至 13 日举行。
排行榜
