SydeLabs获得250万美元种子资金，打造基于AI的意图识别防火墙解决方案

Home AI News CN SydeLabs获得250万美元种子资金，打造基于AI的意图识别防火墙解决方案

生成式人工智能与网络安全：SydeLabs的创新解决方案

生成式人工智能正改变现代商业格局，但同时也带来了新的攻击路径，可能会危及组织及其声誉。位于加利福尼亚的初创公司SydeLabs正在通过实时、基于意图的防火墙来应对这一挑战。近期，公司成功从RTP Global、Picus Capital及多位天使投资者那里获得了250万美元的种子资金。

尽管AI安全领域已有多个参与者，SydeLabs凭借其全面的解决方案组合在市场中脱颖而出，旨在帮助开发者避免大型语言模型（LLMs）中的漏洞，包括项目生命周期中从开发到部署的隐性风险。

创新产品介绍

SydeLabs开发了三款重点AI产品：SydeBox、SydeGuard和SydeComply。现处于测试阶段的SydeBox是一款自助的红队解决方案，允许团队评估其AI应用和模型的潜在漏洞。即将上线的SydeGuard则提供实时基于意图的保护，而SydeComply则解决不同地区的合规问题。

“在SydeBox的测试阶段，我们发现了多种漏洞，包括训练数据泄露、提示注入及安全对齐绕过。”SydeLabs联合创始人Ankita Kumari表示，“SydeGuard能够检测并防止提示注入、钱包拒绝攻击及数据泄露尝试。”

SydeLabs的工作原理

SydeBox利用AI代理基于内部研究及公开数据发起测试攻击，同时LLM会在与目标系统交互的过程中评估攻击的成功与否。相对而言，SydeGuard使用专有模型分析用户提示中的潜在威胁，并为提示、用户会话和用户赋予风险评分。

SydeGuard不会立即阻止用户，而是通知企业安全团队，提供阻止、监控或者将威胁重定向到蜜罐的选项，允许团队战略性地决定如何应对潜在攻击。

强大的漏洞检测

自2024年3月1日SydeBox进入测试阶段以来，SydeLabs已标记超过10,000个漏洞，覆盖50多款应用和模型。随着公司不断发展，SydeLabs计划完善SydeGuard和SydeComply的产品。长期来看，SydeLabs计划向专注于漏洞检测的企业免费提供红队解决方案，同时通过消费模式实现SydeGuard的收益。

Kumari强调网络安全产品准确性的重要性，以及其保持领先于网络威胁的能力。“我们优先进行模型的不断升级，专注于新攻击路径和方法。”

行业背景与竞争优势

SydeLabs的融资正值生成式AI应用的安全性受到高度关注之际，这一问题因名人深度伪造的提示注入攻击事件而凸显。作为回应，微软推出了新的Azure AI工具，旨在检测幻觉并防止攻击。尽管竞争对手如Lakera和Prompt Security在红队和实时防御领域中也在积极布局，但Kumari坚信SydeLabs的产品在准确性和性能上优于这些工具。

SydeLabs将继续在网络安全领域进行创新，确保生成式AI系统在应对不断演变的威胁时始终安全可靠。

SambaNova推出AI Samba-CoE v0.2：在创新与性能上超越Databricks DBRX

MineOS推出企业级AI‘黑匣子’: 提升透明度与理解力