生成式人工智慧：身份詐騙者的朋友與敵人

生成式人工智慧能在幾秒鐘內創作出十四行詩，但同時也助長了數十億的身份詐騙，對個人、組織和政府的名譽造成嚴重損害。根據AU10TIX的2023年第2季度全球身份詐騙報告，美國的有組織身份詐騙比前幾個季度增加了44%。

AU10TIX報告中的數據來自其AI驅動的詐騙檢測解決方案，特別是「連續詐騙監測器」。該工具記錄了全球專業組織攻擊及各種攻擊模式的增加，特別是在如加密交易和支付等易受攻擊的行業。這一增長與我們日益數位化的世界密切相關，使金融服務、消費者以及確保安全互動技術之間的信任變得更加艱難，而生成式人工智慧的影響使這一問題更加惡化。

AU10TIX首席執行官Dan Yerushalmi表示：「大型語言模型和生成式人工智慧使專業詐騙者能夠可信地模仿有效身份，從而使偽造與真實身份的區分變得更加困難。」AU10TIX首席業務發展官Ofer Friedman補充說：「詐騙者不僅僅是在開設幾個賬戶；他們還在進行可能持續數周或數月的大規模攻擊，造成廣泛損害。組織正面臨更大的後果，往往感到無能為力。」

消費者要求更高的安全性和控制，越來越重視安全而非便利。未能滿足這些安全期望的組織將面臨失去客戶信任的風險。

生成式人工智慧對詐騙的影響

Yerushalmi解釋道：「生成式人工智慧為詐騙者提供了大量數據，並允許他們無限調整攻擊方法。這種技術的可獲得性和成本效益吸引了新參與者，讓他們能利用這些網絡攻擊工具產生重大影響。」生成式人工智慧通過幾種機制影響詐騙行為。深度偽造技術可以創建逼真的圖像、音頻和視頻，以執行先進的社會工程和釣魚計劃。詐騙者利用深度偽造來建立虛假賬戶，繞過身份驗證，或通過展示和注入攻擊來欺騙生物識別系統。

此外，生成式人工智慧還使詐騙者能夠編造整個身份。「詐騙者採取AI技術的速度超過了其他行業，」Friedman指出。「這種技術改變了詐騙檢測的動態。過去，識別操控跡象是關鍵，但現在檢測完全虛構的身份變得至關重要。」

合成身份證——由被竊取的社會安全號碼、姓名、地址和虛構信息組合而成——可以通過驗證檢查。這些進化的數字角色模擬合法人類行為，使檢測變得更加困難，並為協調詐騙計劃（如信用詐騙、賬戶接管和洗錢）鋪平道路。

利用AI工具打擊詐騙

那麼，組織如何對抗幾乎不可檢測的詐騙呢？Friedman建議利用生成式AI檢測能力加強現有安全性。「為了應對這些威脅，實施多層檢測策略至關重要，從多個角度評估詐騙及其肇事者。」

AI深度偽造檢測運用算法來識別操控內容，評估面部變形和光照不一致等因素。整合生物識別標記——如面部地標和聲音模式——進一步加強檢查。

組織應部署自動化AI和機器學習身份驗證系統，同時在網絡流量層面添加強大的檢測層，以識別複雜的協調攻擊。先進的神經網絡能實時分析細微的詐騙模式，使得主動干預成為可能。AU10TIX的連續詐騙監測器匯總來自各大規模機構的匿名數據，便於識別複雜的詐騙模式。

Yerushalmi強調，雖然生成式人工智慧提升了詐騙能力與檢測，但傳統算法仍不可忽視。「結合機器學習、AI與基本技術的平衡方法對於達成最佳效果至關重要。」

優化詐騙預防至關重要；客戶越來越重視安全，但也要求無縫的用戶體驗。Yerushalmi警告：「使用者對流程不滿而放棄商業，往往會選擇手頭的其他選擇。他們的耐心會迅速消失，因此在身份驗證中整合保護技術必須提升保護力度，同時不犧牲用戶體驗。」

維護客戶信任

保護客戶免受詐騙侵害是組織的法律與道德責任，對於業務生存至關重要。這一責任包括保護客戶免受財務損失，並培養信任與忠誠。全球範圍內打擊複雜的詐騙依賴組織之間的合作努力。

Yerushalmi表示：「組織必須攜手合作，在全球範圍內打擊詐騙，AU10TIX致力於在這一努力中促進信任。隨著新技術和生成式人工智慧的發展，我們將繼續致力於成為數位環境中的可靠夥伴。」