Stardog卡拉OK:专为企业设计的现场零幻觉大语言模型解决方案

Stardog:以创新AI解决方案引领企业数据管理

Stardog成立于2006年,总部位于弗吉尼亚州阿灵顿,始终处于企业数据管理和知识图谱的前沿。创始人兼首席执行官肯达尔·克拉克深知21世纪企业的数据驱动特性,并意识到数字化和即时访问的迫切需求。

迄今为止,Stardog已成功融资4000万美元,并与包括NASA、国防部、雷神公司和博世在内的知名客户合作。随着生成AI解决方案需求的增加,Stardog的服务在各个行业的组织中变得愈加重要。

Karaoke:颠覆本地AI的解决方案

Stardog与英伟达和超微(Supermicro)合作推出了“Karaoke”,这是一款创新的本地服务器,旨在托管Stardog的Voicebox大型语言模型(LLM)平台。作为2023年10月发布的Llama 2的专业版本,这一企业级解决方案使得用户无论技术水平如何,都能在Stardog Cloud中以自然语言查询数据,轻松访问公司结构化数据。

克拉克说:“对于大企业尤其是受监管的行业,将所有数据迁移至云端往往不可行。Karaoke弥合了这一鸿沟,将云技术直接引入本地环境,使企业能够在保证数据可访问性的同时利用生成AI。”

灵活的服务器配置

Karaoke提供多种规格,从可支持500个用户的紧凑型微型服务器到具有2304个CPU核心、可支持多达20,000个用户的企业级型号。

Voicebox:数据科学的翻译者

Voicebox LLM充当用户查询的翻译器,将问题,如“上个季度违反制裁的欧元交易是什么?”转化为相关的数据科学查询(JavaScript、Python或SQL)。这使得从Stardog的知识图谱中准确检索信息成为可能。

为了确保准确性并消除“幻觉”,Voicebox采用了快速准确保证(Safety RAG)设计。克拉克强调:“我们绝不会呈现仅由LLM生成的回答。用户只会看到直接来源于他们数据的答案,从而增强对结果的信任。”

Voicebox不仅仅是简化或检索数据,而是将用户查询翻译为数据科学家会创建的编程形式。如果无法理解查询,它会简单回复:“我不知道如何回答您的问题。”

透明度与可追溯性

Voicebox还为用户提供数字足迹,显示检索信息的来源,附带引用和链接。此功能增强了验证过程,让用户更有信心地信任数据。克拉克强调:“我们的平台确保可追溯性和数据来源的清晰性,便于用户验证答案并确保数据完整性。”

定价与可用性

Stardog计划为Voicebox LLM层提供每用户每月39美元的价格,该解决方案不需要Karaoke箱即可在云端和虚拟私有云环境中操作。Karaoke箱的定价取决于用户数量和硬件规格,提供3至5年的租赁选项。

对于希望在保持合规的同时利用生成AI的受监管行业,Stardog的Karaoke是一个有效的解决方案。随着企业越来越多地将AI工具整合入运营中,Stardog已做好充分准备,引领本地生成AI应用的安全部署。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles