使用Vectara门户构建AI聊天应用:非开发者与数据互动的终极指南

Vectara 通过 Vectara Portal 简化生成 AI 开发

Vectara 是检索增强生成(RAG)领域的先锋,近日推出了 Vectara Portal,这是一个开源平台,旨在帮助任何人构建可以与其数据进行交互的 AI 应用。

与许多提供即时文档洞察的商业解决方案不同,Vectara Portal 以其用户友好的设计而脱颖而出。用户无需具备任何技术专长,只需几步简单操作,即可创建搜索、摘要或聊天应用,利用其数据集,无需编写代码。

为非开发者解锁潜力

该工具使非开发者能够提升多种组织任务的效率,从政策管理到发票搜索。然而,需要注意的是,其性能仍在评估中,因为该平台目前处于beta测试阶段,用户数量有限。

Vectara 的开发者关系负责人 Ofer Mendelevitch 分享了对 Portal 可能带来的影响的看法,他提到,Portal 与 Vectara 独有的 RAG-as-a-service 平台的集成预计将推动非开发者的广泛采用。Mendelevitch 对用户创造的创新应用充满期待,希望它们能够展现 Vectara 企业 RAG 系统的强大能力。

Vectara Portal 如何运作

Vectara Portal 既作为一个托管应用,也作为一个遵循 Apache 2.0 许可证的开源产品,用户可以创建定制的门户并与目标受众共享。

用户需使用 Vectara 凭证创建 Portal 账户,并设置包含 Vectara ID、API 密钥和 OAuth 客户端 ID 的个人资料。档案建立后,用户只需点击“创建门户”按钮,并输入应用名称、描述及功能(如语义搜索工具、摘要应用或对话助手)即可。

用户友好的门户管理界面使用户能够访问创建的门户、调整设置并上传文档,以满足特定数据需求。这些文档将由 Vectara 的 RAG 平台进行索引,确保生成准确、不虚幻的响应。

“该平台具备强大的检索引擎和前沿的 Boomerang 嵌入模型,从而提高响应质量,”Mendelevitch指出。得益于无代码的特性,创建者可以通过简单几次点击快速开发生成 AI 应用。

设置门户后,后端会构建与用户 Vectara 账户中上传的文档相关的“语料库”。这一语料库使 Vectara 的 RAG API 能高效处理查询并提供相关答案。

在查询过程中,Vectara 首先识别与用户询问相关的文档关键片段(检索步骤),然后将这些信息传递给大语言模型(LLM)。用户可以选择包括 Vectara 自有的 Mockingbird 以及 OpenAI 提供的多个 LLM 选项。

“对于 Vectara Scale 客户,Portal 集成了我们平台的最佳特性,包括最高效的 LLM,”Mendelevitch 补充道。默认情况下,应用是公开的,可以通过链接分享,但用户也可以限制访问权限,仅限特定人员。

旨在推动企业采用

凭借无代码平台,以及托管和开源两种格式,Vectara 希望更多企业用户能够创建强大的生成 AI 应用,以应对各种用例。公司预期这将增加注册用户,并激发对其主要 RAG-as-a-service 产品的兴趣,促进更高的转化率。

“企业中的开发者会发现 RAG 是一个吸引人的用例,我们希望他们能够体验到 Vectara 端到端平台的全部潜力。Portal 是解锁这种理解的关键,将为产品经理、总经理和高管们提供宝贵的价值,”Mendelevitch 表示。

Vectara 已成功融资超过 5000 万美元,目前服务约 50 家生产客户,包括 Obeikan Group、Juniper Networks、Sonosim 和 Qumulo。

Most people like

Find AI tools in YBX