Vectara Simplifica o Desenvolvimento de IA Generativa com o Vectara Portal
A Vectara, pioneira em geração aumentada por recuperação (RAG), lançou o Vectara Portal, um ambiente de código aberto criado para capacitar qualquer pessoa a construir aplicativos de IA que interajam com seus dados.
Diferente de muitas soluções comerciais que oferecem insights imediatos de documentos, o Vectara Portal se destaca por sua abordagem amigável. Com apenas alguns passos simples, usuários com diferentes níveis de conhecimento técnico podem criar aplicativos de busca, resumo ou chat utilizando seus conjuntos de dados, sem a necessidade de programar.
Desbloqueando Potencial para Não-Desenvolvedores
Essa ferramenta tem o potencial de permitir que não-desenvolvedores melhorem uma variedade de tarefas organizacionais, desde gestão de políticas até pesquisas de faturas. Contudo, vale ressaltar que seu desempenho ainda está sendo avaliado, pois a plataforma está em fase beta com um número limitado de clientes.
Ofer Mendelevitch, responsável pelas relações com desenvolvedores na Vectara, compartilha insights sobre o impacto esperado do Portal, mencionando que sua integração com a plataforma proprietária RAG-as-a-service da Vectara deve impulsionar a adoção significativa entre não-desenvolvedores. Mendelevitch expressou expectativa em relação às aplicações inovadoras que os usuários irão criar, na esperança de que destaquem as capacidades dos sistemas RAG empresariais da Vectara.
Como Funciona o Vectara Portal
O Vectara Portal funciona tanto como um aplicativo hospedado quanto como uma solução de código aberto sob a licença Apache 2.0. Os usuários podem criar portais personalizados e compartilhá-los com públicos-alvo.
Para começar, os usuários precisam criar uma conta no Portal usando suas credenciais Vectara e configurar seu perfil com um ID Vectara, uma chave API e um ID de cliente OAuth. Após estabelecer o perfil, os usuários podem clicar no botão “criar um portal” e inserir detalhes básicos, como nome do aplicativo, descrição e funcionalidade—se servirá como ferramenta de busca semântica, aplicativo de resumo ou assistente conversacional.
A tela de gerenciamento do Portal, de fácil utilização, permite que os usuários acessem seus portais criados, ajustem configurações e carreguem documentos para personalizar o aplicativo de acordo com suas necessidades de dados específicas. Esses documentos são indexados pela plataforma RAG da Vectara, garantindo a geração de respostas precisas e sem alucinações.
"Esta plataforma conta com um robusto motor de recuperação e nosso avançado modelo de incorporação Boomerang, resultando em qualidade de resposta aprimorada," observou Mendelevitch. Graças à sua natureza sem código, os criadores podem desenvolver rapidamente aplicações de IA generativa com apenas alguns cliques.
Quando um portal é configurado, o backend constrói um "corpus" relacionado aos documentos carregados na conta Vectara do usuário. Esse corpus permite que a API RAG da Vectara processe consultas de forma eficiente e forneça as respostas mais relevantes.
Durante o processo de consulta, a Vectara primeiro identifica os segmentos-chave de documentos pertinentes à solicitação do usuário (a etapa de recuperação) antes de encaminhar essa informação para um modelo de linguagem grande (LLM). Os usuários podem escolher entre várias opções de LLM, incluindo o próprio Mockingbird da Vectara e modelos da OpenAI.
“Para os clientes do Vectara Scale, o Portal integra os melhores recursos de nossa plataforma, incluindo os LLMs mais eficientes,” acrescentou Mendelevitch. Por padrão, os aplicativos são públicos e compartilháveis via links, mas os usuários também podem restringir o acesso a indivíduos específicos.
Objetivo de Aumentar a Adoção Empresarial
Com sua plataforma sem código, disponível em formatos hospedados e de código aberto, a Vectara visa capacitar mais usuários empresariais a criar potentes aplicações de IA generativa para diversos casos de uso. A empresa prevê que isso aumentará as inscrições e gerará interesse em suas principais ofertas RAG-as-a-service, promovendo taxas de conversão mais altas.
“Os criadores nas empresas acharão o RAG um caso de uso atraente, e queremos que eles experimentem todo o potencial da plataforma integrada da Vectara. O Portal é a chave para desbloquear essa compreensão e será um valioso recurso para gerentes de produto, gerentes gerais e executivos de nível C,” afirmou Mendelevitch.
A Vectara já arrecadou com sucesso mais de US$ 50 milhões em financiamento e atualmente atende aproximadamente 50 clientes de produção, incluindo Obeikan Group, Juniper Networks, Sonosim e Qumulo.