数字隐私与人工智能的信任缺口日益扩大
在美国，87%的人要求企业对数字隐私承担责任，但仅有34%的人信任企业有效利用人工智能（AI）打击欺诈，这凸显了信任缺口的严重性。尽管51%的企业正在部署AI以增强网络安全和欺诈防范，全球只有43%的消费者认为企业在这方面做得准确。这一现象说明，企业亟需弥合信任缺口，以确保其AI驱动的安全措施能够赢得消费者信任。深度伪造技术的兴起使这一问题更加复杂。
理解信任缺口
日益扩大的信任缺口影响到从长期客户关系到主要国际民主国家选举的公正性。Telesign 2024年的信任指数揭示了这一日益加深的分歧，消费者信任问题如何影响消费行为和国家选举流程。
深度伪造与虚假信息的影响
深度伪造和虚假信息在企业、消费者及参与选举的公民之间造成了显著的不信任。Adobe内容真实性倡议的高级总监Andy Parsons警告说：“一旦被深度伪造欺骗，您可能不再信任看到的任何在线信息。当人们无法区分虚构与真实时，民主就面临风险。”
社交媒体平台上深度伪造的传播非常容易，往往还受到自动化账号的推动，这加大了辨别真实与虚假内容的难度。尤其是在2020年9月时，Graphika和Facebook关闭了发布关于地缘政治问题误导性内容的一组中国账号，揭示了国家行为体在虚假信息宣传中的投资意图，以削弱民主和引发社会动荡。
美国情报界2024年的年度威胁评估强调，“俄罗斯利用AI创造能够愚弄专家的深度伪造，目标是政治不稳定地区的人士以施加不良影响。”攻击者借助生成对抗网络（GAN）所驱动的先进深度伪造技术，影响着全球选民的信任。根据Telesign的信任指数，72%的全球选民担心AI生成的深度伪造会破坏选举的公正性，81%的美国人也持相似看法。此外，45%的美国人在过去一年中遇到过AI生成的政治内容，而17%仅在过去一周就注意到此类内容。
对AI和机器学习的信任
尽管人们对AI可能被滥用以干扰选举感到担忧，Telesign的指数也显示出一个积极的趋势：71%的美国人如果AI和机器学习被用来减轻网络攻击和欺诈，会更加信任选举结果。
GAN与深度伪造的运作机制
生成对抗网络（GAN）推动了深度伪造内容真实性的提升。从个体黑客到国家级行为者，GAN被用于生成看似真实的视频和语音克隆。深度伪造越真实，客户和选民的信任就越容易受到侵蚀。这项技术常应用于网络钓鱼攻击和社会工程，凸显了保持警惕的必要性。纽约时报甚至提供了一个测验，测试读者识别真实图片与AI生成图片的能力，展现了GAN技术的快速进步。
GAN由两个竞争的神经网络组成：生成器创建合成数据，而鉴别器评估其真实性。生成器的目标是提升输出的质量和真实性，从而使深度伪造变得越来越难以被检测。
在深度伪造世界中保护信任
Telesign首席执行官Christophe Van de Weyer强调了信任在数字时代的重要性，他表示：“随着AI的发展，我们必须将由AI驱动的反欺诈解决方案作为保障个人和机构数据的优先事项。”Telesign利用2200多个数字身份信号的洞察来增强信任并保障交易，每月预防数百万起欺诈事件。
根据Telesign的指数，令人震惊的是，99%的成功数字入侵发生在账户未启用多因素认证（MFA）的情况下。实施强有力的MFA策略对于阻止数据泄露和维护客户信任至关重要。研究表明，相当多的前员工仍然能够访问敏感的公司数据，这突显了有效身份和访问管理（IAM）的重要性。
结论：在日益增加的深度伪造中维护信任
Telesign的信任指数显示，迫切需要解决现有的信任缺口，特别是在IAM和MFA实践中。随着GAN技术的不断进步，增强创建虚假内容的能力，加强安全措施对于首席信息安全官（CISO）来说至关重要。几乎所有的安全漏洞均始于身份的被攻破，因此企业必须优先保护这些脆弱点，以应对不断上升的深度伪造威胁。
排行榜
