生成式人工智能能够在几秒钟内创作出十四行诗，但同时也助长了数十亿美元的身份欺诈，严重损害了个人、组织和政府的声誉。根据AU10TIX的2023年第二季度全球身份欺诈报告，美国有组织的身份欺诈比之前的季度增长了44%。
AU10TIX的报告数据来源于其基于人工智能的欺诈检测解决方案，尤其是“串行欺诈监控”工具。该工具记录了全球范围内专业有组织攻击和多种攻击模式的增加，特别针对像加密交易和支付这样脆弱的行业。这一增长与我们日益数字化的世界密切相关，使得金融服务、消费者和保障安全互动的技术之间建立信任变得更加困难，而这一问题因生成式人工智能而加剧。
AU10TIX的首席执行官丹·耶鲁沙尔米表示：“大型语言模型与生成式人工智能使专业欺诈者能够逼真地模仿有效身份，增加了伪造和真实身份之间的区分难度。”
AU10TIX的首席商务发展官奥费尔·弗里德曼补充道：“欺诈者不仅仅是开设几个账户，他们进行的群体攻击可以持续几周或几个月，造成广泛损害。组织方面临更大的后果，常常感到不堪重负。”
消费者对安全性和控制的需求日益增强，越来越重视安全而非便利。未能满足这些安全期望的组织将面临失去客户信任的风险。
生成式人工智能对欺诈的影响
耶鲁沙尔米解释道：“生成式人工智能为欺诈者提供了大量数据，使他们可以不断调整方法。这种技术易于获取且成本低廉，吸引了更多能够利用这些网络攻击工具的新参与者。”
生成式人工智能通过多种方式影响欺诈行为。深度伪造技术可以创建逼真的图像、录音和视频，以实施高级社交工程和钓鱼攻击。欺诈者利用深度伪造技术建立虚假账户，绕过身份验证，或者通过展示和注入攻击超越生物识别系统。
此外，生成式人工智能还允许欺诈者伪造完整身份。弗里德曼指出：“欺诈者在采用人工智能技术方面的速度快于其他领域。这项技术改变了欺诈检测的动态。以前，识别操控迹象至关重要，但现在识别完全伪造的身份变得至关重要。”
合成身份——结合被盗的社会安全号码、姓名、地址和伪造信息——可以通过验证检查。这些演变后的数字角色模仿合法人类行为，增加了检测难度，并为诸如信用欺诈、账户接管和洗钱等协调欺诈方案铺平了道路。
使用人工智能工具对抗欺诈
那么，组织如何对抗几乎无法察觉的欺诈呢？弗里德曼建议通过生成式人工智能检测能力增强现有的安全系统。“为了抵消这些威胁，实施多层检测策略至关重要，从多个角度评估欺诈及其肆虐者。”
人工智能深度伪造检测使用算法识别被操控的内容，评估面部变化和光照不一致等因素。整合生物识别标记（如面部特征和声音模式）可提供进一步审查。
组织应部署自动化的人工智能和机器学习身份验证系统，同时增加坚实的层次，以在网络流量水平检测复杂的协调攻击。先进的神经网络可以实时分析微妙的欺诈模式，以便及时干预。AU10TIX的串行欺诈监控聚合来自各种大型机构的匿名数据，帮助识别复杂的欺诈模式。
耶鲁沙尔米强调，虽然生成式人工智能提升了欺诈能力及检测，但传统算法不应被忽视。“结合机器学习、人工智能和基础技术的平衡方法是获得最佳结果的关键。”
优化的欺诈预防是不可或缺的；消费者越来越重视安全，但也要求无缝的用户体验。耶鲁沙尔米警告道：“用户会因不满意的流程而放弃企业，选择其他替代方案。他们很快就会失去耐心，因此在身份验证中集成保护技术必须在增强保护的同时不牺牲用户体验。”
保持客户信任
保护客户免受欺诈是组织的法律和道德义务，是商业生存的关键。这一责任不仅涉及保护客户免受财务损失，还在于建立信任和忠诚。全球范围内打击复杂欺诈依赖于组织间的协作努力。
耶鲁沙尔米表示：“组织必须团结起来，在全球范围内打击欺诈，AU10TIX致力于推动这一信念。”随着新技术和生成式人工智能的发展，我们将继续致力于成为数字领域中可靠的合作伙伴。
排行榜
