Сегодня компания Snowflake, основанная в Монтане и предоставляющая услуги хранения данных в облаке, представила Cortex — полностью управляемый сервис, который интегрирует большие языковые модели (LLM) в свой облачный сервис данных.
Этот запуск состоялся на ежегодном мероприятии Snowday, где Cortex оснастил предприятия, использующие облако данных Snowflake, набором инструментов ИИ, включая открытые LLM, предназначенные для анализа данных и разработки приложений для различных бизнес-приложений.
«С помощью Snowflake Cortex компании могут быстро использовать большие языковые модели, создавать кастомные приложения на их основе за считанные минуты и сохранять гибкость и контроль над своими данными, трансформируя подход пользователей к генеративному ИИ для бизнес-роста», — заявил Шридхар Рамасвами, старший вице-президент по ИИ в Snowflake.
Cortex доступен сегодня в частном предварительном просмотре и включает набор специализированных моделей для повышения эффективности работы с облаком данных. Snowflake планирует использовать этот сервис для трех своих инструментов генеративного ИИ: Snowflake Copilot, Universal Search и Document AI.
Создание приложений LLM с помощью Cortex
Хотя предприятия стремятся внедрить генеративный ИИ, многие сталкиваются со сложностями реализации технологий, включая необходимость в специалистах и управление сложной инфраструктурой GPU. Snowflake Cortex нацелен на упрощение этого процесса.
Сервис предлагает пользователям широкий спектр серверлесс функций ИИ, как специализированных, так и общего назначения. Эти функции доступны через простые запросы SQL или Python, что позволяет пользователям запускать мощные ИИ-приложения на оптимизированной для затрат инфраструктуре Cortex.
Архитектура Snowflake Cortex
Специализированные функции используют языковые и машинные модели для выполнения конкретных аналитических задач с вводом на естественном языке. Например, эти модели могут извлекать ответы, суммировать данные и переводить языки. Они также могут помочь с прогнозированием на основе предоставленных данных или выявлением аномалий.
С другой стороны, функции общего назначения предоставляют разработчикам разнообразные модели — от открытых LLM, таких как Llama 2, до собственных моделей Snowflake, включая ту, что преобразует текстовые вводы в SQL для запросов к данным.
Наиболее важно, что в эти функции общего назначения входят возможности векторного встраивания и поиска, позволяя пользователям контекстуализировать ответы на основе своих данных и создавать кастомизированные приложения для различных задач через Streamlit в Snowflake.
«Это великолепно для наших пользователей, так как им не нужно выделять ресурсы», — отметил Рамасвами. «Мы занимаемся предоставлением ресурсов и развертыванием, как API, похожим на предложения OpenAI, но полностью в Snowflake. Наши клиенты могут быть уверены, что их данные остаются изолированными и защищенными, без рисков перекрестного обучения».
Рамасвами подчеркнул, что обширные навыки программирования не требуются; пользователи могут выполнять свои задачи, используя SQL.
С точки зрения приложений, пользователи легко могут разрабатывать разговорные чат-боты, адаптированные под свои уникальные бизнес-данные, такие как помощник для создания справочного контента.
Нативные LLM-опыт, поддерживаемый Cortex
Хотя Cortex только что был анонсирован для предприятий, Snowflake уже улучшает свою платформу с тремя функциями, поддерживаемыми Cortex, находящимися в частном предварительном просмотре: Snowflake Copilot, Universal Search и Document AI.
Snowflake Copilot — это разговорный помощник, позволяющий пользователям задавать вопросы о своих данных на простом языке, строить SQL-запросы, уточнять их и извлекать инсайты.
Universal Search включает функции поиска на основе LLM,helping users quickly identify valuable data and applications relevant to their needs.
Document AI помогает извлекать информацию из неструктурированных документов, хранящихся в облаке данных Snowflake, таких как суммы счетов или условия контрактов.
Другие игроки в индустрии данных, такие как Databricks, также представили аналогичные возможности, в том числе недавний запуск LakehouseIQ, усиливающий конкуренцию с Snowflake. Informatica и Dremio также предлагают решения LLM, позволяя предприятиям управлять и запрашивать данные на естественном языке.
Дополнительные анонсы Snowday 2023
Помимо Cortex, Snowflake объявила о продвижениях в Iceberg Tables, позволяющем пользователям устранять информационные силосы и объединять данные в облаке. Компания также представила новые функции для своего решения Horizon по управлению, включая мониторинг качества данных, улучшенную визуализацию происхождения данных, улучшенную классификацию и центр доверия для безопасности и соответствия между облаками.
Наконец, Snowflake анонсировала инициативу по финансированию, нацеленную на инвестиции до 100 миллионов долларов в стартапы на ранней стадии, разрабатывающие приложения, нативные для Snowflake, при поддержке своего венчурного капитала и нескольких компаний, включая Altimeter Capital, Amplify Partners и Menlo Ventures.
Рейтинг
