当人工智能系统生成不准确的内容时,通常被称为“幻觉”,其后果并不总是严重。然而,如果用于军事技术的人工智能系统出现幻觉,可能会造成更为严重的影响。
Jaxon AI 最初为美国空军开发人工智能系统,专注于可靠性和准确性。现在,该公司正通过其领域特定的人工智能语言(DSAIL)扩展到企业市场,以应对大语言模型(LLMs)中的幻觉和不准确性问题。这项技术整合了IBM的watsonx基础模型,代表了创造更可靠AI解决方案的新方法。
DSAIL 如何减少人工智能幻觉的风险
幻觉发生时,人工智能会生成不准确的响应,通常是由于训练数据不完整或缺乏验证。DSAIL框架通过将自然语言输入转换为二进制格式来降低此风险。该格式经过一系列检查,就像布尔满足器一样,确保AI的响应满足所有约束条件,进而提高其在实际应用中的可靠性。
减少幻觉的常见策略之一是检索增强生成(RAG)。在此模型中,大语言模型接入知识库以提供准确答案。Cohen指出,虽然RAG是DSAIL方法的一部分,但输出仍需通过额外的验证检查才最终确定,进一步降低了幻觉的可能性。
IBM watsonx 在 Jaxon AI 系统中的作用
Jaxon 利用IBM watsonx库中的模型作为其AI系统的重要组成部分。特别地,IBM StarCoder模型通过根据项目过程中的设计规范自动生成初始代码,从而促进代码生成。
StarCoder是一项开放源代码计划,于5月推出,得到了ServiceNow和Hugging Face的支持,是IBM watsonx库中多个代码生成工具之一。IBM生态系统工程与开发者倡导副总裁Savio Rodrigues确认,IBM是StarCoder项目的创始贡献者,并强调与Hugging Face的合作,旨在提升企业对开放模型的访问。
尽管StarCoder展示了广泛的能力,IBM还提供专门为特定应用量身定制的代码生成模型,例如COBOL迁移和量子计算开发。
IBM 在生成性人工智能市场的战略定位
生成性人工智能和大语言模型的市场竞争激烈,主要竞争者包括OpenAI、Microsoft、Google和AWS。IBM通过其IBM Build计划支持开发者和独立软件供应商(ISVs)如Jaxon AI,力求在这一市场中占有一席之地。
IBM Build为合作伙伴提供了访问watsonx的机会、技术支持和市场推广帮助,旨在提供以一致的定价、性能和可靠性为特征的可信AI基础模型。Rodrigues强调:“我们的客户信任IBM在AI方面的做法,特别是在模型训练和法律检查的实施上。”