企业越来越依赖人工智能（AI）和机器学习（ML）工具，相关交易量激增近600%。从2023年4月的5.21亿笔交易，增长到2024年1月的31亿笔。为应对日益严重的安全威胁，机构已阻止了18.5%的AI/ML交易，反映出九个月内高达577%的惊人增长。
首席信息安全官（CISO）以及他们保护的组织，对这种谨慎的态度有充分的理由，导致AI/ML交易被屏蔽的数量达到了前所未有的水平。攻击者已通过对大型语言模型（LLM）的武器化，悄然侵入企业，形成了一种不断上升的对抗性AI威胁，往往未引起足够重视。
根据Zscaler的《2024年AI安全报告》，企业必须采用可扩展的网络安全策略，以保护其日益增长的AI/ML工具。报告中重点提出的数据保护、AI数据质量管理和隐私问题，都是企业面临的关键挑战。ThreatLabz分析了2023年4月到2024年1月期间的超过180亿笔交易，探讨了各行业对AI和ML工具的使用现状。
医疗、金融、保险、服务、技术和制造等行业不仅大规模采用AI/ML工具，同时也面临着更高的网络攻击风险。其中，制造业的AI交易量最高，占比达到20.9%，其次是金融和保险（19.9%）及服务行业（16.8%）。
阻止交易是针对潜在网络攻击的迅速反应
在防范网络攻击的努力中，CISO及其团队正在阻止创纪录数量的AI/ML交易。这一积极措施旨在保护高风险领域免受网络威胁的侵害。
目前，ChatGPT是使用和屏蔽最广泛的AI工具，紧随其后的是OpenAI、Fraud.net、Forethought和Hugging Face。屏蔽的主要域名包括Bing.com、Divo.ai、Drift.com和Quillbot.com。在2023年4月至2024年1月期间，企业共阻止了超过26亿笔交易。
制造业仅阻止15.65%的AI交易，这一数字令人担忧，尤其考虑到其受到勒索攻击的脆弱性。相对而言，金融和保险行业则屏蔽了37.16%的交易，反映出更高的数据安全和隐私关注。更令人担忧的是，医疗行业仅屏蔽了17.23%的AI交易，这引发了对其保护敏感数据承诺的质疑。
关键行业如医疗和制造业的中断，可能导致巨额的勒索赎金。近期的United Healthcare勒索攻击案例就展示了协调性攻击如何使整个供应链瘫痪。
屏蔽是应对更大挑战的短期解决方案
为了超越简单的屏蔽，组织应充分利用先进网络安全平台的遥测功能。像CrowdStrike、Palo Alto Networks和Zscaler等公司便在通过遥测数据提供深刻见解方面发挥着重要作用。
CrowdStrike首席执行官乔治·库尔茨（George Kurtz）强调，关联各个端点的微弱信号对于提升检测能力至关重要。这一方法也适用于与第三方的合作，以获取更深层次的洞察和改善新型检测。
在AI领域拥有丰富专业知识的主要网络安全供应商包括Blackberry Persona、Broadcom、Cisco Security、CrowdStrike、CyberArk、Cybereason、Ivanti、SentinelOne、Microsoft、McAfee、Sophos和VMware Carbon Black等。这些公司可能会利用AI驱动的攻击数据对其大型语言模型进行训练，以应对攻击者采用的复杂手段。
新型严峻的AI威胁景观已然出现
根据Zscaler的报告，AI驱动的风险可分为两大类：与企业AI工具相关的数据保护和安全风险，以及由生成AI和自动化引发的新网络威胁景观。
CISO在应对报告中列出的各种AI攻击技术时面临巨大的挑战。确保员工在使用ChatGPT时不出现失误，并避免泄露机密数据，应该成为高层讨论的关键议题。优先考虑风险管理对于任何强有力的网络安全策略都是至关重要的。
保护知识产权、控制影子AI，并实现数据隐私和安全是成功AI/ML策略的核心。
去年，美国国家石油公司的首席信息官亚历克斯·菲利普斯（Alex Philips）与董事会分享了有关生成AI的见解，强调理解ChatGPT的优势与风险的重要性。菲利普斯定期向董事会更新生成AI技术的发展，增强对防止重大数据泄露所需安全措施的期望与认知。
在应对新AI威胁景观带来的挑战时，在生产力与安全之间找到平衡至关重要。Zscaler的首席执行官也曾面临过网络钓鱼和短信钓鱼尝试，攻击者冒充他在WhatsApp上向一名员工施压，试图诱导其泄露敏感信息。所幸，Zscaler的系统成功阻止了这一攻击，显示出针对高管和技术领导者的攻击趋势日益严重。
攻击者越来越多地利用AI策划快速的勒索攻击。Zscaler报告指出，AI驱动的勒索病毒已成为国家黑客工具库中的一部分，频率不断上升。攻击者借助生成AI，创建与组织防火墙和VPN相关的广泛漏洞表，这使他们能够优化代码漏洞，从而针对特定环境定制有效负载。
此外，Zscaler还强调生成AI如何识别企业供应链中的弱点，揭示与核心网络的最佳连接路径。尽管可能采取了强有力的安全措施，下游漏洞通常带来最大的风险。攻击者通过生成AI持续优化他们的策略，导致复杂且针对性的攻击愈加难以发现。
最终，敌对势力的目标是将生成AI融入整个勒索攻击链，自动化侦察和代码利用，以生成高级多形态恶意软件和勒索病毒。通过优化攻击流程中的关键组件，威胁行为者能够实施更快速、更精准和更复杂的攻击。
排行榜
