网络安全洞察：适应生成式人工智能威胁环境
网络攻击者的技术不断演变，这使得网络安全供应商必须加强防御。随着企业愈加采用人工智能，基于生成式人工智能的创新安全解决方案的需求也在上升。这一前提显著影响了Menlo Ventures对生成式人工智能在八个关键领域产生重大影响的评估。
新兴威胁：你准备好了吗？
最近，Menlo Ventures的Rama Sekhar和Feyza Haskaraman探讨了弥补人工智能安全漏洞的紧迫性。作为新任合伙人的Sekhar专注于网络安全和人工智能，而Haskaraman则是网络安全和SaaS领域的负责人。他们强调，企业要充分利用人工智能，必须建立一个新的技术架构，确保在软件供应链和模型开发的每个阶段都优先考虑安全。
生成式人工智能的影响领域
Sekhar和Haskaraman指出了八个将显著影响安全环境的因素：
1. 供应商风险管理与合规自动化：随着组织日益与外部供应商整合，管理第三方应用的安全至关重要。目前的流程往往手动且易出错，非常适合通过生成式人工智能实现自动化。例如，Dialect的人工智能助手简化了安全问卷的填写，提高了效率和准确性。
2. 提升安全培训：传统的安全培训效益有限，尽管投入了大量资金，仍可能导致数据泄露。生成式人工智能为提供更具吸引力和真实感的员工培训场景带来了契机。像Immersive Labs这样的工具模拟攻击，而安全助手则在Slack等平台上引导员工进行互动培训。
3. 渗透测试：随着生成式人工智能被攻击者利用，渗透测试也需相应调整。利用人工智能自动化快速模拟多次攻击，可以增强防御策略，包括威胁数据库搜索和漏洞评估，并简化报告流程。
4. 异常检测与预防：生成式人工智能提升了监控事件日志和检测异常活动的能力，这可能暗示入侵尝试。这项技术能够有效扩展，为各种终端、网络、API和数据存储提供额外的安全层。
5. 合成内容检测与验证：网络犯罪分子利用生成式人工智能创建虚假数字身份，对企业造成重大影响。美国联邦贸易委员会估计，单起欺诈事件的损失超过15,000美元。像Deduce和DeepTrust这样的公司通过先进的身份验证方法，利用人工智能区分真实身份和虚假身份，正在解决这一问题。
6. 代码审查：软件开发中的“左移”策略注重早期测试，以提升质量和安全性。然而，许多自动安全工具效率低下。像Semgrep这样的初创企业正在这一领域进行创新，提供可定制规则以简化漏洞检测和修复。
7. 依赖管理：绝大多数代码库都使用开源组件，通常来自多个第三方供应商。通过生成式人工智能，特别是在依赖追踪和补丁管理方面，这一领域预计将获得改进。像Socket这样的供应商正在领先实施，以检测和减轻开源代码中的供应链风险。
8. 防御自动化和SOAR能力：生成式人工智能可以优化安全运营中心（SOC）中的运营，通过提升警报准确性和减少误报，从而提高分析师的生产力。通过自动化日常任务，SOC专业人员可以专注于更重要和复杂的项目。
为人工智能安全的未来做好准备
为了实现生成式人工智能的企业级整合，组织必须首先解决与人工智能采用相关的现存安全挑战。所识别的八个领域突显出企业提升对广泛人工智能战略准备的必要性。通过利用生成式人工智能，组织可以消除繁琐任务，使安全团队能够集中精力应对更加复杂的网络威胁，增强对不断上升的人工智能驱动攻击的防御。
排行榜
