首席信息安全官（CISO）和首席信息官（CIO）正在评估生成性人工智能作为持续学习引擎的好处，该引擎能够捕捉行为数据、遥测、入侵和数据泄露信息，同时权衡相关风险。目标是建立一种新的“肌肉记忆”用于威胁情报，以提高数据泄露预测能力并改善安全运营流程。
然而，对于生成性AI的信任仍然存在分歧。与多个制造和服务领域的CISO的近期交流显示，尽管在营销、运营和安全等方面可能会提高生产力，董事会成员主要关注知识产权和数据保密性被侵害的风险。
Deep Instinct近期发布的调查报告《生成性AI与网络安全：商业领域的光明未来？》汇总了CISO访谈中获得的见解。研究表明，虽然69%的组织已采用生成性AI工具，但46%的网络安全专业人士认为这些工具会增加攻击的可能性。88%的CISO和安全领袖坚称，武器化的AI攻击是不可避免的。
85%的受访者怀疑近期的攻击是由生成性AI驱动的，特别是WormGPT的出现，这是一种在地下论坛上推广用于网络钓鱼和商业邮件妥协攻击的生成性AI工具。类似的工具如FraudGPT迅速在暗网获得关注，表明武器化AI的商业化进程正在加速。
CrowdStrike的首席科学家兼高级副总裁Sven Krasser指出，攻击者正在加速大型语言模型（LLMs）和生成性AI的武器化。虽然这加快了攻击的速度和数量，但Krasser强调，这并没有从根本上提升攻击的质量。他建议利用云端安全技术与AI结合，关联全球信号，可以有效对抗这些新兴威胁。
Darktrace的威胁猎捕主管Max Heinemeyer警告企业必须在进攻性AI普遍流行之前，先实施网络AI防御。他认为，当冲突演变为算法与算法之间的较量时，只有机器速度的自主响应才能有效应对AI增强的攻击。
生成性AI应用市场正在迅速扩展，生成性AI持续学习的能力对于分析由各终端产生的大量数据尤为有利。预计对威胁评估和风险优先级算法的持续更新将创造新的用例，CISO和CIO希望通过其来提升威胁预测能力。例如，Ivanti与Securin的合作旨在提供实时风险优先级并强化安全态势。
Ivanti与Securin的合作将Securin的漏洞情报（VI）与Ivanti Neurons结合，形成近实时的威胁情报生态系统。Ivanti首席产品官Dr. Srinivas Mukkamala强调，AI增强的人类智能在提供全面的威胁情报和风险优先级方面具有重要优势。
预计生成性AI网络安全市场将从2022年的16亿美元飙升至2032年的112亿美元，年均增长率（CAGR）达到22%。Canalys预计，生成性AI将在未来五年内支撑超过70%的网络安全操作。
Forrester将生成性AI的使用案例分为三个主要领域：内容创建、行为预测和知识表达。Forrester首席分析师Allie Mellen指出，尽管AI和机器学习在安全工具中的整合并非新鲜事，但这一过程正在演变，以更有效地利用历史数据和风险评分方法。
Gartner预测，到2026年，80%的应用程序将具备生成性AI功能，表明组织的快速采用。CISO强调，平台的适应性对于最大化生成性AI应用的价值至关重要，特别是在增强更广泛的零信任安全框架方面。
为了有效地将生成性AI整合到零信任框架中，CISO建议通过持续监控、动态访问控制和持续验证来保护所有应用、平台、工具和终端。生成性AI的引入可能会带来新的攻击向量，促使CISO优先防护查询攻击、提示注入、模型操控和数据中毒。
利用生成性AI进行知识管理正在成为一个关键用例，取代引入冗长且耗资的系统集成项目。在2023年RSAC上，多个供应商推出了基于ChatGPT的解决方案，包括谷歌安全AI工作台、微软安全助手等，展示了向AI增强安全的趋势。
CrowdStrike推出的Charlotte AI旨在通过自动化重复任务和改进威胁检测流程，提升安全分析师的生产力。Charlotte AI将在未来一年内推出，能够有效捕捉实时交互以跟踪威胁。
云配置错误仍然是攻击者的重要目标，利用事件同比增长95%。面对日益严峻的威胁形势，专家预测将增加兼并收购活动，以增强多云和混合云安全。CrowdStrike收购Bionic便是这一趋势的典型例子，进一步强调了生成性AI在增强整体网络安全努力中的重要性。
排行榜
