Zscaler 報告顯示，企業 AI 採用在不到一年內激增 600%，突顯出數據安全風險

企業越來越依賴人工智慧（AI）和機器學習（ML）工具，交易量激增近600%。交易量從2023年4月的5.21億筆上升至2024年1月的31億筆。面對日益嚴重的安全問題，各組織已封鎖18.5%的AI/ML交易，顯示出九個月內驚人的577%增長。

首席資訊安全官（CISO）及其所保護的組織對於這種謹慎的做法有其合理的考量，導致AI/ML交易被封鎖的數量前所未有。攻擊者已適應並利用大型語言模型（LLM）潛入組織，這波對抗性AI的興起成為一種往往被忽視的新威脅。

根據Zscaler的2024年AI安全報告，企業必須採用可擴展的網絡安全策略，以保護其不斷增長的AI/ML工具。報告中強調的主要問題包括數據保護、AI數據質量管理及隱私問題。ThreatLabz分析了2023年4月至2024年1月期間的180億筆交易，檢視各行業的AI和ML工具使用情況。

醫療、金融、保險、服務、科技及製造業等行業在AI/ML工具的採用上出現顯著增長，並面臨更多的網絡攻擊風險。製造業的AI流量最高，佔交易量的20.9%，其次是金融和保險的19.9%及服務業的16.8%。

封鎖交易是對潛在網絡攻擊的臨時但迅速的反應。

為了防範潛在的網絡攻擊，CISO及其團隊正在封鎖創紀錄數量的AI/ML交易。這一主動措施旨在保護高風險行業免受網絡威脅的影響。

目前，ChatGPT是使用率和封鎖率最高的AI工具，其後依次為OpenAI、Fraud.net、Forethought和Hugging Face。被封鎖的域名中，Bing.com、Divo.ai、Drift.com和Quillbot.com名列前茅。2023年4月至2024年1月，企業共封鎖了超過26億筆交易。

製造業僅封鎖15.65%的AI交易，這一數字令人擔憂，因為其對網絡攻擊（尤其是勒索病毒）的脆弱性不容忽視。相對而言，金融和保險行業封鎖了37.16%的交易，顯示出對數據安全和隱私的高度關切。醫療行業僅封鎖17.23%的AI交易，令人質疑其對保護敏感數據的承諾。

關鍵行業如醫療及製造業的中斷可能導致重大的勒索付款。最近的United Healthcare勒索病毒攻擊便顯示了協同攻擊如何使整個供應鏈癱瘓。

封鎖只是應對更大挑戰的短期解決方案

為了超越單純的封鎖，組織應利用先進網絡安全平台的遙測能力。CrowdStrike、Palo Alto Networks和Zscaler等公司正推廣從遙測數據中獲得的見解。

CrowdStrike首席執行官George Kurtz強調，將來自各終端的微弱信號聯繫起來，以增強檢測能力的重要性。這一方法還延伸到第三方的合作，實現更深入的見解和改善的創新檢測。

在AI與機器學習方面擁有廣泛專業知識和數十年經驗的網絡安全主要供應商包括Blackberry Persona、Broadcom、Cisco Security、CrowdStrike、CyberArk、Cybereason、Ivanti、SentinelOne、Microsoft、McAfee、Sophos和VMware Carbon Black。這些公司可能會利用AI驅動的攻擊數據訓練其LLM，以對應攻擊者採用的複雜手法。

新的、更具威脅性的AI攻擊環境已出現

根據Zscaler的報告，AI驅動的風險可分為兩大類型：企業AI工具相關的數據保護和安全風險，以及由生成式AI和自動化燃起的新網絡威脅環境。

CISO在面對報告中列出的多種AI攻擊技術時，面臨著巨大的挑戰。應對員工在使用ChatGPT時的疏忽，以及確保機密數據不被意外共享，應成為董事會層級的關鍵討論。優先考慮風險管理對於任何健全的網絡安全策略至關重要。

保護智財不被通過ChatGPT洩露，控制影子AI，及確保數據隱私和安全，都是成功實施AI/ML策略的核心。

去年，國家石油公司的首席資訊官Alex Philips在董事會上分享了生成式AI的見解，強調了解ChatGPT的優勢和風險的重要性。Philips定期向董事會更新生成式AI技術的發展，使其對於防止重大安全漏洞所需的潛在安全措施保持知情。

在應對新興AI威脅環境所帶來的挑戰中，平衡生產力與安全性至關重要。Zscaler的首席執行官曾面對一次語音欺詐和短信欺詐的嘗試，攻擊者冒充他通過WhatsApp信息試圖欺騙員工透露敏感信息。所幸，Zscaler的系統阻止了此次攻擊，這表明針對高層主管和科技領導者的攻擊趨勢 日益增長。

攻擊者越來越多地利用AI策劃快速的勒索攻擊。Zscaler報告指出，AI驅動的勒索病毒正成為國家級黑客的工具，而且其出現頻率正在上升。透過生成式AI，攻擊者能創造與組織防火牆和VPN相關的漏洞綜合表格，這些情報使他們能夠優化代碼漏洞，為特定環境量身定做有效載荷。

此外，Zscaler指出生成式AI能識別企業供應鏈中的弱點，揭示通往核心網絡的最佳連接路徑。儘管可能已採取強大的安全措施，但下游的脆弱性往往帶來最大的風險。攻擊者持續改進他們利用生成式AI的戰術，導致越來越難以檢測的複雜和針對性攻擊。

最終，對手的目標是將生成式AI融入整個勒索攻擊鏈，自動化偵察和代碼利用，以生成先進的多態惡意軟件和勒索病毒。透過簡化攻擊過程中的關鍵組件，威脅行為者能夠更快、更精確地執行針對企業的攻擊。