Lasso Security通过创新的基于上下文的访问控制为大型语言模型安全树立新标准

Home AI News CN Lasso Security通过创新的基于上下文的访问控制为大型语言模型安全树立新标准

要在长期的人工智能项目中有效扩展大型语言模型（LLM），企业逐渐采用增强检索生成（RAG）框架。然而，这一转变需要强大的上下文安全措施，以应对日益增长的整合需求。

确保RAG的上下文智能安全

传统的RAG访问控制方法在提供必要的上下文监督方面显得不足。由于RAG缺乏内置的访问控制，这可能导致未授权访问敏感信息，从而带来显著的安全风险。

传统访问控制的局限性

基于角色的访问控制（RBAC）过于僵化，无法适应动态的上下文请求；而基于属性的访问控制（ABAC）则在可扩展性方面存在困难，并且维护成本较高。这表明迫切需要一种更为精细的方案，以增强保护，同时不牺牲性能。

介绍基于上下文的访问控制（CBAC）

为了解决上述问题，Lasso Security研发了基于上下文的访问控制（CBAC），来提升上下文访问管理。CBAC动态评估所有对LLM的访问请求的上下文，包括访问、响应、互动、行为和数据修改请求。这种全面的方法确保了强大的安全性，防止未授权访问，并在LLM和RAG框架内保持高标准。

Lasso Security的联合创始人兼首席产品官Ophir Dror强调：“传统方法关注静态标准，无法有效管理上下文，可能使组织面临风险。”CBAC通过确保仅授权用户能访问特定信息，保护敏感数据不被聊天机器人不当公开。

什么是增强检索生成（RAG）？

2020年，Facebook AI Research、伦敦大学学院和纽约大学的研究人员发布了关于RAG的基础性论文，将其定义为结合预训练模型和非参数存储系统的方法。通过更有效地处理企业数据，RAG显著增强了LLM的能力。

Gartner指出，RAG克服了传统LLM的局限性，实现相关企业信息的整合。配套图表展示了RAG的工作原理。

为RAG集成设计CBAC

Dror表示，CBAC的设计灵活，可以作为独立解决方案或与现有系统（如Active Directory）无缝集成。这种多功能性简化了其采纳过程，而不需要对现有LLM基础设施进行重大更改。

虽然CBAC能够独立运行，但它也能与Lasso Security的生成AI安全套件集成。这确保了员工与基于AI的聊天机器人、应用程序和模型互动的全面保护。Lasso Security持续监控数据传输，快速识别异常或政策违规，确保安全合规的环境。

Dror进一步解释，CBAC不断评估各种上下文指标以执行访问控制策略，从而仅允许授权人员访问敏感信息，即使这些信息包含机密和公共相关数据。

解决安全挑战

Dror指出，实施RAG的组织通常面临访问权限的关键问题。随着RAG的采纳增加，LLM的局限性（如幻觉和数据训练方面的问题）使得解决权限问题的紧迫性加剧。CBAC的开发旨在通过提供必要的上下文洞察来应对这些挑战，以启用动态的访问控制策略。

随着RAG在组织的LLM和AI战略中变得至关重要，上下文智能将成为推动安全和可扩展解决方案的关键，绝不会牺牲性能。

OpenAI 发布开发者期待已久的顶级功能

OpenAI的动荡夏季：探索可能改变人工智能未来的危机

Most people like

PostDrips

21.1K

通过使用AI驱动的工具PostDrips，您可以有效提升在LinkedIn上的个人品牌形象。

LinkedIn 日程安排工具 AI社交媒体助手

Symph AI

109.1K

Symph AI delivers cutting-edge AI solutions designed to enhance decision-making and accelerate development cycles.

AI 产品其他

Affiliate Plus - Lasso

236.4K

人工智能驱动的联盟营销平台 Solutions: 解锁营销潜力与增长在当今数字化时代，基于人工智能的联盟营销平台正逐渐成为一种重要的营销工具。通过智能算法和数据分析，这些平台不仅能够优化营销策略，还能提高合作伙伴的表现，从而实现更高的投资回报率。本文将深入探讨人工智能在联盟营销中的应用，揭示其如何帮助企业提升竞争力和实现增长。

联盟营销 AI Analytics助手

数组

563.4K

使用Chai AI，这款卓越的聊天机器人应用程序，您可以轻松创建、分享和探索多样化的聊天机器人。

聊天机器人应用 AI聊天机器人

Find AI tools in YBX