網路犯罪分子比企業運作更為靈活,因為他們不需要等待高層的批准、測試或監管檢查。這使得許多組織處於劣勢,猶如帶著黃油刀參加槍戰。然而,生成式人工智能可能會顯著改變這一平衡,正如微軟副首席資訊安全官及企業副總裁凯利·比塞尔(Kelly Bissell)在亞特蘭大的人工智能影響巡演中所討論的那樣。
“我希望我們作為一個社群能夠迅速且安全地採用人工智能,使我們能在攻擊者面前佔據上風,不至於被拋在後頭,”比塞尔表示。
利用生成式人工智能提升安全性
安全性是實用人工智能最吸引人的應用之一。微軟Copilot for Security的早期使用者注意到其在事件回應方面的效能,特別是在減輕攻擊和增強安全操作中心(SOC)方面,同時顯著降低成本。
微軟Copilot依據海量數據和威脅情報提供的超過78萬億的安全信號,運用大型語言模型來提供量身定制的見解和可行建議。此技術簡化了對微妙攻擊的偵測,並顯著縮短回應時間,使安全團隊能夠始終領先於網路犯罪分子。其用戶友好的介面讓分析師能以自然語言提出問題並獲得實用回答。
這些工具使初任的SOC分析師從第一天起就能具備有效執行的能力,減少了入門培訓的時間與成本。腳本撰寫或事件分析所需的時間從幾天幾小時縮短至僅幾分鐘。
“我有一家製藥公司,期望在其安全團隊中每年節省5000萬美元,並提高其安全性,”比塞尔透露。“這一雙重好處——改善安全與降低成本,是我們合作的超過一半公司的共同主題。”
早期使用者也認識到培訓與透明度的重要性。人工智能工具需要謹慎使用,比塞尔強調他們已整合日誌功能,讓客戶能夠監控人工智能的運作。此外,還增設了一個紅隊工具來驗證結果,促進“信任但驗證”的方法。這種透明度的提升不僅增強了平台的效能,也提高了客戶對其能力的信心。
生成式人工智能安全實踐
比塞尔強調製藥行業是工具如Copilot for Security能夠創造各種有效應用的典範。最初的懷疑為深入探索人工智能的能力鋪平了道路。
一個重要的優勢是降低臨床試驗中的欺詐行為。惡意行為者對藥物是否通過FDA檢查抱有財務利益,這帶來虛假結果和內幕交易的風險。通過在製造廠和實驗室中應用人工智能驅動的安全,企業不僅能監控設備故障跡象,還能檢測潛在的篡改行為。這種綜合方法也在加強藥物與聚合物的研究。
“他們可以生產更好的產品,加快藥物上市的過程,這是數十億美元的價值,”比塞尔強調。“專利僅持續10年,能夠更早進入市場使企業能在其廣泛上市前保持市場份額。”
改造SOC可能是最具影響力的應用案例,特別是隨著網路犯罪分子開始利用生成式人工智能,而無需面對企業所需的監管障礙。
“我們注意到攻擊者使用開源人工智能的情況顯著上升,他們現在可以更容易地構建模型,”比塞尔解釋道。“創建惡意軟體不再需要高級駭客技能。就像開發者可以通過GitHub等平台快速生產代碼,網路犯罪分子也能如此。攻擊者的數量即將大幅上升。這場競賽才剛剛開始。”