雪花公司推出Cortex:数据云中开发LLM应用的托管服务

今天,总部位于蒙大拿州的数据即服务和云存储提供商 Snowflake 推出了 Cortex,这是一项完全托管的服务,集成了大语言模型(LLMs)到其数据云中。在年度 Snowday 活动上发布的 Cortex,为使用 Snowflake 数据云的企业提供了一整套 AI 工具,包括开源的 LLM,旨在分析数据并为特定业务场景开发应用。

Snowflake 的 AI 高级副总裁 Sridhar Ramaswamy 表示:“借助 Snowflake Cortex,企业能够快速利用大语言模型,在几分钟内构建定制化的 LLM 应用,同时保持对数据的灵活性和控制权,从而改变用户利用生成式 AI 推动业务增长的方式。”

Cortex 现已进入私人预览阶段,包含一系列针对特定任务的模型,以增强数据云中的特定功能。Snowflake 计划将此服务用于其三项生成式 AI 工具:Snowflake Copilot、Universal Search 和 Document AI。

使用 Cortex 构建 LLM 应用

尽管企业迫切希望采用生成式 AI,但许多企业在技术实施方面面临复杂性,包括对专业人才的需求和管理复杂的 GPU 基础设施。Snowflake Cortex 力求简化这一过程。

该服务为用户提供了一系列无服务器的 AI 功能,包括专业和通用功能。这些功能可以通过简单的 SQL 或 Python 调用来访问,使用户能够在 Cortex 的成本优化基础设施上启动功能 AI 应用。

Snowflake Cortex 架构

专门功能利用语言和机器学习模型,通过自然语言输入执行特定的分析任务。例如,这些模型可以提取答案、总结数据和翻译语言,还能基于提供的数据进行预测或检测异常。

另一方面,通用功能为开发者提供多种模型,从开源 LLM(如 Llama 2)到 Snowflake 的专有模型,其中一个可以将文本输入转换为 SQL 以查询数据。

重要的是,这些通用功能包括向量嵌入和搜索能力,使用户能够根据其数据上下文化响应,并为各种场景创建定制应用,这一过程可以通过 Snowflake 中的 Streamlit 实现。

Ramaswamy 指出:“这对我们的用户非常有利,因为他们无需配置任何资源。我们处理配置和部署,类似于 API,和 OpenAI 的服务类似,但完全在 Snowflake 内部。我们的客户可以放心,他们的数据是孤立和安全的,不会存在跨客户训练的风险。”

Ramaswamy 强调,用户无需具备高级编程技能,通过 SQL 就可以完成任务。

基于 Cortex 的原生 LLM 体验

尽管 Cortex 尚处于企业使用的初期阶段,Snowflake 已在私人预览中增强其平台,推出三项基于 Cortex 的功能:Snowflake Copilot、Universal Search 和 Document AI。

- Snowflake Copilot:作为一个对话助手,用户可以用简单的语言询问数据,构建 SQL 查询、优化查询并提取洞察。

- Universal Search:通过 LLM 驱动的搜索功能,帮助用户快速识别与其需求相关的有价值数据和应用。

- Document AI:帮助提取存储在 Snowflake 数据云中的非结构化文档信息,如发票金额或合同条款。

在数据行业中,其他公司如 Databricks 也推出了类似能力,最近推出的 LakehouseIQ 进一步增强了与 Snowflake 的竞争。Informatica 和 Dremio 也提供 LLM 解决方案,使企业能够使用自然语言管理和查询数据。

2023 Snowday 的其他公告

除了 Cortex,Snowflake 还宣布了 Iceberg Tables 的进展,使用户能够消除数据孤岛,在数据云中统一其信息。公司还推出了 Horizon 治理解决方案的新功能,包括数据质量监测、改进的数据血缘可视化、增强的分类功能以及跨云安全与合规的信任中心。

最后,Snowflake 还推出了一项资金计划,计划向开发 Snowflake 原生应用的早期初创公司投资高达 1 亿美元,得到了其风险投资部门和 Altimeter Capital、Amplify Partners、Menlo Ventures 等公司的支持。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles