Uniphore, ведущая мировая технологическая компания, специализирующаяся на разговорном ИИ и автоматизации, презентовала X-Stream — трансформационный слой в своей основной платформе данных и ИИ. X-Stream упрощает разработку приложений с увеличением данных в генерации (RAG), предоставляя знания как услугу и интегрируя необходимые инструменты, соединения и элементы управления, что позволяет предприятиям использовать свои мультимодальные наборы данных для специализированных ИИ приложений.
X-Stream предлагает единую открытую архитектуру, которая оптимизирует разрозненный процесс подготовки данных для ИИ, служа комплексным решением и устраняя необходимость в нескольких инструментах на этапе разработки. «X-Stream позволяет клиентам уточнять свои данные и преобразовывать их в готовые к ИИ знания. Эти знания могут быть интегрированы в готовые к производству малые языковые модели Uniphore или использованы для разработки индивидуальных моделей. Наши опытные специалисты по данным и инженеры решили проблемы, связанные с точностью и галлюцинациями, обеспечивая безопасность и направляя клиентов к суверенности в ИИ», — отметил Умеш Сачдев, генеральный директор Uniphore.
Решение проблем с данными для RAG
С развитием генеративного ИИ концепция RAG, при которой ИИ получает информацию из указанных баз данных для предоставления точных ответов, становится все более актуальной. Предприятия стремятся создать специализированные приложения поиска и чата на базе RAG, использующие свои внутренние базы знаний для получения точных ответов без галлюцинаций, что в конечном итоге повышает эффективность различных функций.
Однако разработка и масштабирование этих приложений сопряжены с серьезными проблемами данных. Часто необходимая информация рассредоточена по различным источникам и форматам, включая структурированные таблицы, неструктурированные тексты, документы и видео. Для консолидации этих данных компании обычно используют несколько компонентов и соединителей данных, таких как Fivetran, для связи своих хранилищ данных, ERP, HCM и внутренних приложений.
После соединения организациям нужно активировать поток RAG, разбив данные на блоки, преобразовав их в эмбеддинги и сохранив в векторной базе данных с помощью таких инструментов, как Milvus, Weaviate или Pinecone. Для повышения точности они также могут включить графовые возможности RAG, например, используя Neo4j.
Такой фрагментированный подход быстро становится обременительным, и сроки проектов могут растягиваться на несколько месяцев, прежде чем будет достигнуто масштабируемое решение в области генеративного ИИ. «Мы слышали от руководителей данных предприятий о необходимости более эффективного метода для преобразования знаний в области голоса, видео и текста, уходя от традиционных платформ или библиотек данных», — пояснил Сачдев.
Чтобы закрыть эти пробелы в данных, X-Stream от Uniphore предлагает целостную архитектуру, которая объединяет все необходимые инструменты и элементы управления в одном месте.
X-Stream обрабатывает мультимодальные данные из более чем 200 источников, делая их готовыми к ИИ через интеллектуальное объединение и трансформацию. После первичной обработки данные разбиваются на блоки, преобразуются в эмбеддинги и хранятся в векторной базе данных, что облегчает доступ к релевантным данным для ИИ-команд и поддерживает отраслевые модели Uniphore и сценарии RAG.
Кроме того, X-Stream создает графы знаний, где необходимы контекст и рассуждения, и генерирует синтетические данные для настройки моделей под специфические сценарии или отрасли. В систему также встроены функции управления доказательствами, такие как проверки фактической информации и атрибуция блоков, что повышает доверие к выводам ИИ.
Это комплексное решение ускоряет процесс ИИ от подготовки данных до окончательного вывода, что позволяет быстрее разрабатывать приложения RAG, готовые к производству.
«X-Stream выделяется по двум ключевым причинам: оно использует 16-летний опыт Uniphore в работе с неструктурированными данными, охватывающими голос, видео и текст, и представляет собой единую платформу, разработанную для удовлетворения разнообразных нужд предприятий в области ИИ», — добавил Сачдев.
Обещание значительной ценности
Хотя X-Stream только что запущен, Сачдев подчеркнул его потенциал для оптимизации компонентов ИИ и данных, позволяя разрабатывать специализированные приложения генеративного ИИ с использованием внутренних данных до восьми раз быстрее, соблюдая самые высокие стандарты качества, соблюдения и управления. «Uniphore применяет модель ценообразования, основанную на использовании, а клиенты обычно испытывают 4x-6x вознаграждение на свои инвестиции в течение нескольких недель после запуска», — отметил он.
Замечательно, что некоторые из возможностей X-Stream пересекаются с предложениями гипермасштабируемых компаний и стартапов, такими как Amazon Sagemaker, Tonic AI и Unstructured.io. Интересно будет наблюдать за масштабируемостью этого нового предложения, особенно по мере того, как все больше предприятий начинают использовать генеративный ИИ для внутренних и внешних приложений. Uniphore сотрудничает с более чем 1500 компаниями, включая DHL, Accenture и General Insurance.
Согласно прогнозам Gartner, к 2025 году ожидается, что 30% проектов генеративного ИИ будут заброшены после фазы концептуальной проверки из-за низкого качества данных, недостаточной системы контроля рисков или растущих затрат.