深度伪造技术预计到2027年将达400亿美元，面对对抗性人工智能威胁日益加剧

Home AI News CN 深度伪造技术预计到2027年将达400亿美元，面对对抗性人工智能威胁日益加剧

深度伪造技术的风险上升：企业亟待应对的威胁

深度伪造技术正迅速成为对抗性人工智能的重要形式，预计2023年的损失将从123亿美元飙升至2027年的400亿美元，年均增长率达到32%。德勤指出，深度伪造在银行和金融服务行业的扩散尤为令人担忧。

在过去一年里，深度伪造的数量激增了3000%，预计2024年事件将增加50%至60%，全球案例将达到14万至15万起。最新一代的生成式人工智能应用使攻击者能够快速、低成本地制作令人信服的深度伪造视频、模拟声音和虚假文件。Pindrop 2024年语音智能与安全报告估计，针对联络中心的深度伪造欺诈每年给企业带来约50亿美元的损失，这进一步凸显了这种技术对银行和金融行业的威胁。

彭博社报道，黑暗网络上出现一个繁荣的地下市场，诈骗软件的售价从20美元到几千美元不等。根据Sumsub 2023年身份欺诈报告的信息图，全球范围内以人工智能为驱动力的欺诈行为正急剧上升。

企业应对能力：日益严峻的挑战

随着对抗性人工智能的不断演进，新的攻击手段不断涌现，安全形势日益复杂。令人担忧的是，三分之一的企业缺乏针对深度伪造风险的应对策略，尤其是针对高管的攻击。Ivanti 2024年网络安全报告显示，有30%的组织没有计划识别或防范针对对抗性人工智能的攻击。

报告指出，74%的受访企业已发现了AI驱动的威胁，89%的人认为这些威胁才刚刚开始。此外，60%的首席信息安全官、首席信息官及IT领导者感到无法有效应对这些攻击。将深度伪造技术作为网络钓鱼和勒索软件等更广泛策略一部分的情况日益普遍，显示出由生成式人工智能驱动的更复杂威胁场景的潜力。

针对高管的攻击：攻击者的新战略

网络安全专家指出，深度伪造技术正从易于识别发展至逼真仿冒，特别是针对首席执行官。业内高管反映，激进的国家行为者和大型网络犯罪组织正在将资源投入到生成对抗网络（GAN）技术中。全球最大广告公司的首席执行官曾遭遇的重大事件，就是这些攻击复杂性的真实体现。

在最近与《华尔街日报》的对话中，CrowdStrike首席执行官乔治·库尔茨谈到，人工智能的进步既增强了网络安全防御，也加强了攻击者的能力。他指出，现今的深度伪造技术已先进到难以辨别真伪。他表示：“如今的深度伪造技术已经非常精良，”强调了国家行为者推动的虚假信息活动所带来的风险。

CrowdStrike的情报团队积极研究深度伪造的可信度因素，努力理解该技术的发展轨迹，以实现最大化传播效果。库尔茨将信息传播比作石子在水塘中激起涟漪，重要话题因而放大并影响公众认知。

企业的行动号召

如果企业无法跟上攻击者在深度伪造攻击中的快速演进，便可能在对抗性人工智能的斗争中失利。随着深度伪造日益普及，美国国土安全部发布了《深度伪造身份的威胁加剧》的指南，强调企业亟需增强防御能力。

组织必须制定主动策略，以降低深度伪造技术带来的风险，并在这场持续的人工智能军备竞赛中占据先机。

从AGI到ROI：2024年影响企业战略的6大关键AI辩论

苹果发布革命性“4M”人工智能模型的公共演示：探索其重要性

Most people like

Archistar

103.1K

提供人工智能驱动的房地产研究平台，专为投资者和开发商量身打造。

物业研究 AI网站设计师

Carepatron

585.4K

提升客户成果、效率与生产力，借助可定制的工具和灵活的工作流程。

实践管理软件医疗健康工具

Nightwatch

122.9K

提高关键字排名的准确性与优化的AI驱动SEO监控工具。

SEO监测 AI SEO助手

YesChat.ai

2.6M

GPT-4V, DALL-E 3, and Claude 2 power YesChat.ai's cutting-edge AI chatbot capabilities.

ChatGPT4V AI聊天机器人

Find AI tools in YBX