Gen AI: O Amigo e Inimigo do Fraude de Identidade

A IA generativa pode compor um soneto em segundos, mas também facilita bilhões em fraudes de identidade, prejudicando gravemente as reputações de indivíduos, organizações e governos. De acordo com o Relatório Global de Fraude de Identidade Q2 2023 da AU10TIX, as fraudes de identidade organizadas nos EUA aumentaram 44% em comparação com trimestres anteriores.

Os dados do relatório da AU10TIX provêm de suas soluções de detecção de fraudes impulsionadas por IA, especialmente o Serial Fraud Monitor. Esta ferramenta registrou um aumento nos ataques organizados profissionais e em diversos modos de ataque globalmente, com foco notável em setores vulneráveis, como negociação de criptomoedas e pagamentos. Esse crescimento está diretamente relacionado ao nosso mundo cada vez mais digital, dificultando a construção de confiança entre serviços financeiros, consumidores e a tecnologia que garante interações seguras—um problema agravado pela IA generativa.

“Modelos de linguagem amplos e IA generativa capacitam golpistas profissionais a imitar identidades válidas com convincente precisão, complicando a diferenciação entre falsificações e identidades genuínas”, afirma Dan Yerushalmi, CEO da AU10TIX.

“Os golpistas não estão apenas abrindo algumas contas; eles realizam ataques em massa extensivos que podem durar semanas ou meses, causando danos generalizados”, acrescenta Ofer Friedman, Diretor de Desenvolvimento de Negócios da AU10TIX. “As organizações enfrentam repercussões mais severas e frequentemente se sentem sobrecarregadas.”

Os consumidores exigem segurança e controle aprimorados, priorizando a segurança em relação à conveniência. Organizações que não atendem a essas expectativas de segurança correm o risco de perder a confiança dos clientes.

O Impacto da IA Generativa na Fraude

“A IA generativa fornece aos golpistas vastas quantidades de dados e permite que eles adaptem seus métodos indefinidamente”, explica Yerushalmi. “É acessível e econômica, atraindo novos jogadores que podem utilizar essas ferramentas de ciberataque para causar um impacto significativo.”

A IA generativa influencia a fraude por meio de vários mecanismos. Deepfakes podem criar imagens, gravações de voz e vídeos realistas para executar esquemas avançados de engenharia social e phishing. Os golpistas utilizam deepfakes para estabelecer contas falsas, contornar verificações de identidade ou burlar sistemas biométricos por meio de ataques de apresentação e injeção.

Além disso, a IA generativa permite que os golpistas fabriquem identidades inteiras. “Os golpistas estão adotando a tecnologia de IA mais rapidamente do que outros setores”, observa Friedman. “Essa tecnologia transforma a dinâmica da detecção de fraudes. Anteriormente, identificar sinais de manipulação era fundamental, mas agora detectar identidades completamente fabricadas se torna crítico.”

Identidades sintéticas—combinações de números de Seguro Social roubados, nomes, endereços e informações falsas—podem passar em verificações de validação. Essas personas digitais evoluídas imitam o comportamento humano legítimo, dificultando a detecção e abrindo caminho para esquemas de fraude coordenados, como fraude de crédito, sequestros de contas e lavagem de dinheiro.

Combatendo a Fraude com Ferramentas de IA

Então, como as organizações combatem fraudes quase indetectáveis? Friedman sugere aprimorar a segurança existente com capacidades de detecção de IA generativa. “Para contrabalançar essas ameaças, é essencial implementar estratégias de detecção em várias camadas, avaliando fraudes e seus perpetradores sob múltiplas perspectivas.”

A detecção de deepfakes por IA emprega algoritmos para identificar conteúdo manipulado, avaliando fatores como transformações faciais e inconsistências de iluminação. A integração de marcadores biométricos—como pontos faciais e padrões de voz—adiciona um nível adicional de escrutínio.

As organizações devem implantar sistemas de verificação de identidade automatizados em IA e aprendizado de máquina, enquanto adicionam uma camada robusta para detectar ataques coordenados sofisticados no nível do tráfego de rede. Uma rede neural avançada pode analisar padrões sutis de fraude em tempo real, permitindo intervenções proativas. O Serial Fraud Monitor da AU10TIX agrega dados anonimizados de várias instituições de grande escala, facilitando a identificação de padrões de fraude sofisticados.

Yerushalmi enfatiza que, embora a IA generativa melhore tanto as capacidades de fraude quanto a detecção, algoritmos tradicionais não devem ser negligenciados. “Uma abordagem equilibrada que combina aprendizado de máquina, IA e técnicas fundamentais é vital para resultados ótimos.”

A prevenção otimizada de fraudes é imperativa; os clientes valorizam cada vez mais a segurança, mas exigem uma experiência do usuário sem costura. “Os usuários abandonam empresas que não estão satisfeitas com o processo, optando por alternativas disponíveis”, alerta Yerushalmi. “Eles rapidamente perdem a paciência, portanto, a integração de tecnologias de proteção na autenticação deve reforçar a proteção sem sacrificar a experiência do usuário.”

Mantendo a Confiança do Cliente

Proteger os clientes contra fraudes é uma obrigação legal e ética da organização—fundamental para a sobrevivência do negócio. Essa responsabilidade envolve proteger os clientes contra perdas financeiras e fomentar confiança e lealdade. Combater fraudes sofisticadas globalmente depende de esforços colaborativos entre as organizações.

“As organizações devem se unir para combater a fraude em uma escala global, e a AU10TIX está comprometida em promover a confiança nesse esforço”, afirma Yerushalmi. “À medida que novas tecnologias e a IA generativa evoluem, continuamos dedicados a ser um parceiro confiável no cenário digital.”