Vectara Упрощает Разработку Генеративного ИИ с Помощью Vectara Portal
Vectara, пионер в области генерации с использованием дополненной информации (RAG), запустила Vectara Portal — открытую среду, предназначенную для того, чтобы любой мог создавать ИИ-приложения, взаимодействующие с их данными.
В отличие от многих коммерческих решений, предоставляющих мгновенные аналитические данные, Vectara Portal выделяется своим удобным интерфейсом. Пользователи, независимо от уровня технической подготовки, могут создать приложения для поиска, суммирования или общения на основе своих наборов данных всего за несколько простых шагов, не написав ни строки кода.
Открытие Потенциала для Неразработчиков
Этот инструмент может дать возможность неразработчикам улучшить разнообразные организационные задачи, начиная от управления политикой и заканчивая поиском счетов. Однако стоит отметить, что его производительность все еще оценивается, так как платформа находится на стадии бета-тестирования с ограниченным числом клиентов.
Офер Менделевич, глава отдела отношений с разработчиками Vectara, делится мнениями о предполагаемом влиянии Portal, отмечая, что интеграция с уникальной платформой RAG-as-a-service Vectara ожидается как основной движущий фактор принятия решения среди неразработчиков. Менделевич выразил надежду увидеть инновационные приложения, созданные пользователями, которые продемонстрируют возможности корпоративных систем RAG Vectara.
Как Работает Vectara Portal
Vectara Portal функционирует как хостинговое приложение и открытое программное обеспечение под лицензией Apache 2.0. Пользователи могут создавать индивидуализированные порталы и делиться ими с целевыми аудиториями.
Чтобы начать, пользователи должны создать аккаунт Portal, используя свои учетные данные Vectara, и настроить профиль с идентификатором Vectara, API-ключом и клиентским ID OAuth. После создания профиля пользователи могут нажать кнопку «создать портал» и ввести основные данные, такие как название приложения, описание и функциональность — будет ли это инструмент семантического поиска, приложение для суммирования или разговорный помощник.
Удобный интерфейс управления Portal позволяет пользователям получать доступ к созданным порталами, настраивать параметры и загружать документы для адаптации приложения к конкретным потребностям данными. Эти документы индексируются платформой RAG Vectara, что гарантирует формирование точных и безошибочных ответов.
"Эта платформа обладает мощным механизмом поиска и нашей передовой моделью встраивания Boomerang, что приводит к улучшению качества ответов", — отметил Менделевич. Благодаря безкодовой природе, создатели могут быстро разрабатывать приложения на основе генеративного ИИ всего за несколько кликов.
После настройки портала бэкенд создает «корпус», относящийся к загруженным документам в аккаунте пользователя Vectara. Этот корпус позволяет API RAG Vectara эффективно обрабатывать запросы и предоставлять наиболее релевантные ответы.
Во время обработки запроса Vectara сначала определяет ключевые сегменты документов, имеющих отношение к запросу пользователя (этап извлечения), прежде чем передать эту информацию крупной языковой модели (LLM). Пользователи могут выбирать из нескольких опций LLM, включая собственную модель Vectara — Mockingbird, и модели OpenAI.
«Для клиентов Vectara Scale Portal объединяет лучшие функции нашей платформы, включая наиболее эффективные LLM», — добавил Менделевич. По умолчанию приложения являются публичными и могут быть поделены по ссылкам, однако пользователи также могут ограничить доступ для определённых лиц.
Цель — Увеличить Принятие в Корпорациях
С помощью своей безкодовой платформы, доступной как в хостинговом формате, так и в открытом исходном коде, Vectara стремится предоставить большему числу пользователей возможность создавать мощные приложения на основе генеративного ИИ для различных сценариев использования. Компания ожидает, что это повысит количество регистраций и вызовет интерес к основным предложениям RAG-as-a-service, что приведет к увеличению конверсии.
«Создатели в корпорациях найдут RAG убедительным кейсом, и мы хотим, чтобы они увидели весь потенциал платформы Vectara от начала и до конца. Portal — это ключ к раскрытию этого понимания и станет ценным активом для продуктовых менеджеров, генеральных менеджеров и руководителей высшего звена», — заявил Менделевич.
Vectara успешно привлекла более 50 миллионов долларов финансирования и в настоящее время обслуживает около 50 клиентов в производственной сфере, включая Obeikan Group, Juniper Networks, Sonosim и Qumulo.