生成式人工智慧如何在零信任環境中加強網絡安全

CISO和CIO正在評估利用生成式AI作為持續學習引擎的好處，它能捕捉行為數據、遙測、入侵及數據洩露情況，並與風險進行比較。其目標在於建立新的威脅情報“肌肉記憶”，以增強洩露預測及改善安全運營流程。

然而，對生成式AI的信任依然存在分歧。與多家製造及服務業的CISO進行的最近訪談顯示，儘管在市場營銷、運營和安全方面可能帶來生產力增長，但董事會成員主要提出的擔憂包括知識產權受到侵害和數據機密性問題。

Deep Instinct近期發佈的調查報告《生成式AI與網絡安全：商業戰場的光明未來？》量化了從CISO訪談中獲得的見解。研究顯示69%的組織已採用生成式AI工具，但46%的網絡安全專業人士認為這些工具增加了攻擊的可能性。高達88%的CISO和安全領導者斷言，武器化AI攻擊是不可避免的。

有85%的受訪者懷疑最近的攻擊是由生成式AI驅動，特別是WormGPT的出現，這是一款在地下論壇上針對釣魚和商業電子郵件妥協攻擊推廣的生成式AI工具。像FraudGPT這樣的工具在黑暗網上迅速流行，顯示出武器化AI的快速商業化。

CrowdStrike首席科學家兼高級副總裁Sven Krasser指出，攻擊者正加速大型語言模型（LLM）和生成式AI的武器化。儘管這增加了攻擊的速度和數量，Krasser強調，這並不從根本上提高攻擊的質量。他建議利用AI進行全球信號關聯的雲端安全能有效抵禦這些不斷演變的威脅。

Darktrace威脅獵捕總監Max Heinemeyer警告，企業必須在進攻性AI普遍化之前實施網絡AI防禦。他斷言，當衝突演變為算法對抗算法時，只有在機器速度下的自主響應才能有效對抗AI增強的攻擊。

生成式AI應用市場正在迅速擴展。生成式AI持續學習的能力，特別適合分析由端點產生的海量數據。預計對威脅評估和風險優先級算法的持續更新將產生新的用例，CISO和CIO希望這能加強威脅預測。例如，Ivanti與Securin的合作旨在提供實時風險優先級，提高安全態勢。

Ivanti與Securin的合作將Securin的漏洞情報（VI）與Ivanti Neurons結合，打造近即時的威脅情報生態系統。Ivanti首席產品官Dr. Srinivas Mukkamala強調AI增強人類智能在提供全面威脅情報和風險優先級方面的益處。

生成式AI網絡安全市場預計將從2022年的16億美元飆升至2032年的112億美元，顯示出22%的年均增長率（CAGR）。Canalys預測，在未來五年內，生成式AI將支持超過70%的網絡安全運營。

Forrester將生成式AI的用例分為三個主要領域：內容創建、行為預測和知識表達。Forrester首席分析師Allie Mellen指出，雖然安全工具中AI和機器學習的整合並不新鮮，但此技術正不斷演進，以更有效地利用歷史數據和風險評分方法論。

Gartner預測，到2026年，80%的應用將具備生成式AI能力，顯示出組織內部的快速採用。CISO強調，平台的適應性對於最大化生成式AI應用的價值至關重要，尤其是在增強更廣泛的零信任安全框架中。

為了在零信任框架內有效整合生成式AI，CISO建議通過持續監控、動態訪問控制和持續驗證來保障所有應用、平台、工具和端點。生成式AI的納入可能帶來新的攻擊向量，促使CISO優先防範查詢攻擊、提示注入、模型操控和數據污染。

利用生成式AI進行知識管理逐漸成為一個重要用例，取代冗長且成本高昂的系統整合項目。在RSAC 2023上，幾家廠商推出了基於ChatGPT的解決方案，包括Google Security AI Workbench、Microsoft Security Copilot等，顯示出朝向AI增強安全的趨勢。

CrowdStrike推出的Charlotte AI旨在通過自動化重複性任務和提升威脅檢測流程，來提高安全分析師的生產力。Charlotte AI計劃在未來一年內推出，實時捕捉互動以有效追蹤威脅。

雲配置錯誤仍然是攻擊者主要目標，利用事件同比上漲95%。面對這日益嚴峻的威脅，專家預測將出現更多旨在增強多雲和混合雲安全的併購活動。CrowdStrike收購Bionic便是此趨勢的例證，強調生成式AI在提升整體網絡安全努力中的重要性。