Lasso Security通过创新的基于上下文的访问控制为大型语言模型安全树立新标准

Home AI News CN Lasso Security通过创新的基于上下文的访问控制为大型语言模型安全树立新标准

要在长期的人工智能项目中有效扩展大型语言模型（LLM），企业逐渐采用增强检索生成（RAG）框架。然而，这一转变需要强大的上下文安全措施，以应对日益增长的整合需求。

确保RAG的上下文智能安全

传统的RAG访问控制方法在提供必要的上下文监督方面显得不足。由于RAG缺乏内置的访问控制，这可能导致未授权访问敏感信息，从而带来显著的安全风险。

传统访问控制的局限性

基于角色的访问控制（RBAC）过于僵化，无法适应动态的上下文请求；而基于属性的访问控制（ABAC）则在可扩展性方面存在困难，并且维护成本较高。这表明迫切需要一种更为精细的方案，以增强保护，同时不牺牲性能。

介绍基于上下文的访问控制（CBAC）

为了解决上述问题，Lasso Security研发了基于上下文的访问控制（CBAC），来提升上下文访问管理。CBAC动态评估所有对LLM的访问请求的上下文，包括访问、响应、互动、行为和数据修改请求。这种全面的方法确保了强大的安全性，防止未授权访问，并在LLM和RAG框架内保持高标准。

Lasso Security的联合创始人兼首席产品官Ophir Dror强调：“传统方法关注静态标准，无法有效管理上下文，可能使组织面临风险。”CBAC通过确保仅授权用户能访问特定信息，保护敏感数据不被聊天机器人不当公开。

什么是增强检索生成（RAG）？

2020年，Facebook AI Research、伦敦大学学院和纽约大学的研究人员发布了关于RAG的基础性论文，将其定义为结合预训练模型和非参数存储系统的方法。通过更有效地处理企业数据，RAG显著增强了LLM的能力。

Gartner指出，RAG克服了传统LLM的局限性，实现相关企业信息的整合。配套图表展示了RAG的工作原理。

为RAG集成设计CBAC

Dror表示，CBAC的设计灵活，可以作为独立解决方案或与现有系统（如Active Directory）无缝集成。这种多功能性简化了其采纳过程，而不需要对现有LLM基础设施进行重大更改。

虽然CBAC能够独立运行，但它也能与Lasso Security的生成AI安全套件集成。这确保了员工与基于AI的聊天机器人、应用程序和模型互动的全面保护。Lasso Security持续监控数据传输，快速识别异常或政策违规，确保安全合规的环境。

Dror进一步解释，CBAC不断评估各种上下文指标以执行访问控制策略，从而仅允许授权人员访问敏感信息，即使这些信息包含机密和公共相关数据。

解决安全挑战

Dror指出，实施RAG的组织通常面临访问权限的关键问题。随着RAG的采纳增加，LLM的局限性（如幻觉和数据训练方面的问题）使得解决权限问题的紧迫性加剧。CBAC的开发旨在通过提供必要的上下文洞察来应对这些挑战，以启用动态的访问控制策略。

随着RAG在组织的LLM和AI战略中变得至关重要，上下文智能将成为推动安全和可扩展解决方案的关键，绝不会牺牲性能。

37.4K

语音精灵是一款功能强大的语音助手，旨在通过语音命令轻松与设备和应用程序进行交互。

语音助手 AI聊天机器人

118.2K

无限可能的人工智能音效生成技术在数字时代，人工智能正在重新定义音效创作的界限。通过无限人工智能生成的音效，创作者能够轻松获得独特、创新的音效，提升他们的项目质量和吸引力。无论是用于电影、游戏还是音乐制作，这种先进的技术为音效设计带来了前所未有的灵活性与想象空间，助力每个创作者实现他们的构思和愿景。

音效声音与音频编辑工具

1.2M

使用我们的 insMind AI 图片增强器，您可以轻松无缝地扩展图像，无论是横向还是纵向。我们确保在保持内容上下文的同时，图像在各种平台上都能完美适应，无需担心拉伸或质量损失。

AI图像扩展器 AI 相片和图像生成器

20.3K

无广告的答案引擎：在这个信息爆炸的时代，我们需要一个能够提供清晰、直接答案的平台，而不被烦人的广告干扰。无广告的答案引擎旨在为用户提供纯净、高效的信息检索体验，让每一个查询都能快速得到所需的答案。此平台的核心理念是，用户应该在没有杂音的环境中，轻松获取知识。

AI搜索大型语言模型（LLMs）

Find AI tools in YBX