深偽技術預計到2027年將達到400億美元，隨著對抗性人工智慧的威脅日益上升

Home AI新聞深偽技術預計到2027年將達到400億美元，隨著對抗性人工智慧的威脅日益上升

深度偽造風險上升：對企業的迫切威脅

深度偽造技術迅速成為最具威脅性的對抗性人工智慧形式之一，預計2023年的損失將從123億美元激增至2027年的400億美元，年均增長率達32%。根據德勤的報告，深度偽造在銀行和金融服務行業的擴散尤為令人擔憂。

僅在過去一年，深度偽造的事件激增了3000%，而2024年的事故預計將上升50%至60%，全球總數將達到14萬至15萬例。最新一代的生成式AI應用使攻擊者能夠以快速且低成本的方式創造可信的深度偽造視頻、模仿聲音和虛假文件。Pindrop 2024年語音智能和安全報告預估，針對聯絡中心的深度偽造詐騙每年使企業損失約50億美元，進一步強化了該技術對銀行與金融行業的威脅。

彭博社報導，暗網上興起了一個繁榮的地下市場，詐騙軟體的價格從20美元到幾千美元不等。根據Sumsub 2023年身份詐欺報告的資訊圖表，AI驅動的詐騙在全球範圍內呈驚人增長。

企業準備情況：日益關注

隨著對抗性AI的演進，它引入了未曾預見的攻擊途徑，複雜化了安全環境。令人擔憂的是，三分之一的企業並未制定應對深度偽造風險的策略，特別是針對其高管的攻擊。Ivanti 2024年網路安全狀態報告指出，30%的組織尚無計畫以識別或防範對抗性AI攻擊。

報告顯示，74%的受訪企業已經見證到AI驅動的威脅，89%認為這些威脅才剛剛開始。此外，60%的CISO、CIO和IT領導者感到對這種攻擊準備不足。深度偽造越來越常用於更廣泛的策略中，包括釣魚和勒索軟體，標誌著生成式AI驅動的威脅場景正變得愈加複雜。

針對高管：攻擊者的新策略

網路安全專家報告了一個令人擔憂的趨勢：深度偽造正在從容易檢測轉向現實的模仿，尤其針對首席執行官。業界高管指出，積極的國家行為者和大型網路犯罪組織正在投入資源於生成對抗網絡（GAN）技術。這種攻擊的複雜性在一起針對全球最大廣告公司的首席執行官的顯著事件中得到了體現。

在最近一次與《華爾街日報》的對話中，CrowdStrike首席執行官喬治·庫茨談到AI的進步如何同時增強網路安全防禦和攻擊者的能力。他觀察到，目前的深度偽造技術已先進到難以辨別真偽的程度。他強調國家驅動的虛假資訊活動所帶來的風險，表示“今天的深度偽造技術非常出色。”

CrowdStrike的情報團隊積極研究使深度偽造具有說服力的因素，力求了解該技術的發展軌跡以達到最大觀眾影響。庫茨將信息的傳播比作小石子在池塘中產生的漣漪，重要主題隨之放大，影響公眾認知。

對企業的行動呼籲

如果企業無法跟上攻擊者快速演進的腳步，則可能無法贏得對抗對抗性AI的戰鬥。隨著深度偽造越來越普遍，國土安全部發出了一份名為《深度偽造身份的日益威脅》的指南，強調了企業加強防禦的迫切性。

企業必須制定主動策略，以減輕深度偽造技術帶來的風險，並在持續的人工智慧軍備競賽中保持領先。

Bitmagic 獲得 400 萬美元資金，開發 AI 平台，根據用戶指令創建 3D 遊戲

蘋果公布革命性「4M」AI模型的公開示範：了解其重要性

Most people like

DHTMLX ChatBot

129.6K

透過我們專為 AI 客服代理設計的創新聊天機器人小工具，解鎖無縫的客戶互動。這個強大的工具通過提供即時協助、解決問題並提升整體參與度來增強使用者體驗。利用高效的 AI 驅動支援，轉變您的客戶服務，同時提升滿意度並精簡業務運作。迎接客戶溝通的未來，發現我們的聊天機器人小工具如何能徹底改變您的支援策略！

JavaScript 小工具 AI Chatbot