A Uniphore, uma empresa global líder em tecnologia especializada em IA conversacional e automação, lançou o X-Stream, uma camada transformadora em sua plataforma de dados e IA. O X-Stream simplifica o desenvolvimento de aplicações de geração aumentada por recuperação (RAG) ao habilitar o conhecimento como serviço e integrar ferramentas essenciais, conectores e controles para que as empresas aproveitem seus conjuntos de dados multimodais para aplicações de IA específicas de domínio.
O X-Stream oferece uma arquitetura unificada e aberta que streamlines o processo frequentemente fragmentado de preparação de dados prontos para IA, servindo como uma solução abrangente e eliminando a necessidade de várias ferramentas ao longo do pipeline de desenvolvimento.
“O X-Stream capacita os clientes a refinarem seus dados e transformá-los em conhecimento pronto para IA. Isso pode ser integrado perfeitamente aos modelos de linguagem pequenos prontos para produção da Uniphore ou utilizado para desenvolver modelos personalizados. Nossa equipe de cientistas de dados e engenheiros experientes enfrentou desafios relacionados à precisão e alucinações, garantindo segurança enquanto orienta os clientes em direção à soberania em IA,” afirmou Umesh Sachdev, CEO da Uniphore.
Enfrentando Desafios de Dados para RAG
Com a evolução da IA generativa, o conceito de RAG—onde a IA obtém informações de bancos de dados designados para fornecer respostas precisas—ganhou destaque. As empresas estão se apressando para criar aplicações de busca e chat baseadas em RAG que aproveitam suas bases de conhecimento internas para respostas precisas e livres de alucinações, aumentando a eficiência em várias funções.
No entanto, desenvolver e escalar essas aplicações apresenta desafios substanciais de dados. Frequentemente, as informações necessárias estão dispersas em diversas fontes e formatos, incluindo tabelas estruturadas, textos não estruturados, documentos e vídeos. Para consolidar esses dados, as empresas costumam recorrer a múltiplos componentes e conectores de dados, como o Fivetran, para integrar seus data warehouses, ERPs, HCMs e aplicações internas.
Uma vez conectadas, as organizações devem habilitar o fluxo RAG fragmentando dados, convertendo-os em embeddings e armazenando-os em um banco de dados vetorial usando ferramentas como Milvus, Weaviate ou Pinecone. Para aprimorar a precisão, elas podem ainda incorporar capacidades de RAG gráfico, como com o Neo4j.
Essa abordagem fragmentada rapidamente se torna trabalhosa, frequentemente estendendo os cronogramas de projeto por meses até alcançar uma aplicação generativa de IA escalável. “Ouvimos de líderes de dados empresariais sobre a necessidade de um método mais eficiente para impulsionar a transformação do conhecimento através de voz, vídeo e texto, afastando-se das plataformas ou bibliotecas de dados tradicionais,” explicou Sachdev.
Para preencher essas lacunas de dados, o X-Stream da Uniphore oferece uma arquitetura coesa que consolida todas as ferramentas e controles necessários em um único lugar. O X-Stream processa dados multimodais de mais de 200 fontes, tornando-os prontos para IA através de fusão e transformação inteligentes. Após o processamento inicial, fragmenta os dados, converte-os em embeddings e os armazena em um banco de dados vetorial, facilitando o acesso aos dados relevantes para equipes de IA e apoiando os modelos específicos da indústria e os casos de uso de RAG da Uniphore.
Além disso, o X-Stream gera gráficos de conhecimento onde contexto e raciocínio são necessários e cria dados sintéticos para personalizar modelos para casos de uso ou indústrias específicas. Inclui também recursos de gestão de evidências, como verificações de factualidade e atribuição de fragmentos, aumentando a confiança nas saídas de IA.
Essa solução abrangente acelera o pipeline de IA desde a preparação de dados até a entrega final, permitindo um desenvolvimento mais rápido de aplicações RAG prontas para produção. “O X-Stream se destaca por duas razões principais: aproveita os 16 anos de experiência da Uniphore com dados não estruturados em voz, vídeo e texto, e apresenta uma plataforma unificada projetada para atender às diversas necessidades de IA das empresas,” acrescentou Sachdev.
Prometendo Valor Significativo
Embora o X-Stream seja um lançamento recente, Sachdev destacou seu potencial de otimizar componentes de IA e dados, permitindo o desenvolvimento de aplicações generativas de IA específicas de domínio usando dados internos até oito vezes mais rápido, mantendo os mais altos padrões de qualidade, conformidade e governança. “A Uniphore utiliza um modelo de precificação baseado em uso, com clientes normalmente experimentando um retorno sobre investimento de 4x a 6x nas semanas seguintes ao lançamento,” observou.
Notavelmente, algumas das capacidades do X-Stream sobrepõem-se às de grandes provedores e startups, como Sagemaker da Amazon, Tonic AI e Unstructured.io. A escalabilidade desta nova oferta será interessante de observar, especialmente à medida que mais empresas adotam IA generativa para aplicações internas e externas. A Uniphore colabora com mais de 1.500 empresas, incluindo DHL, Accenture e General Insurance.
De acordo com a Gartner, projeta-se que até 2025, 30% dos projetos de IA generativa serão abandonados após a fase de prova de conceito devido à baixa qualidade dos dados, controles de risco inadequados ou custos crescentes.