Riscos do Deepfake em Ascensão: Uma Ameaça Urgente para as Empresas
A tecnologia de deepfake está emergindo rapidamente como uma das formas mais temíveis de IA adversarial, com perdas projetadas saltando de US$ 12,3 bilhões em 2023 para US$ 40 bilhões até 2027—uma impressionante taxa de crescimento anual composta de 32%. De acordo com a Deloitte, a proliferação de deepfakes é especialmente preocupante nos setores bancário e de serviços financeiros.
Somente no último ano, os deepfakes aumentaram em impressionantes 3.000%, e os incidentes devem subir entre 50% e 60% em 2024, atingindo um total de 140.000 a 150.000 casos em todo o mundo. A última geração de aplicações de IA generativa permite que os atacantes criem vídeos deepfake, vozes impersonadas e documentos fraudulentos de forma rápida e barata. O relatório Pindrop 2024 sobre Inteligência e Segurança Vocal estima que fraudes com deepfake direcionadas a centros de atendimento estão custando às empresas cerca de US$ 5 bilhões anualmente, reforçando a ameaça dessa tecnologia para o setor financeiro.
A Bloomberg reportou um mercado subterrâneo vibrante na dark web, onde softwares de fraude são vendidos por preços que variam de US$ 20 a vários milhares de dólares. Uma infografia baseada no Relatório de Fraude de Identidade 2023 da Sumsub ilustra o alarmante crescimento da fraude impulsionada por IA em escala global.
Preparação das Empresas: Uma Preocupação Crescente
À medida que a IA adversarial evolui, ela introduz vetores de ataque imprevistos que complicam o cenário de segurança. Alarmantemente, uma em cada três empresas não possui uma estratégia para combater os riscos associados aos deepfakes, especialmente aqueles direcionados a seus principais executivos. O relatório Ivanti 2024 sobre o Estado da Cibersegurança destaca que 30% das organizações não têm planos para identificar ou se defender contra ataques de IA adversarial.
O relatório revela que 74% das empresas entrevistadas já estão enfrentando ameaças impulsionadas por IA, com 89% acreditando que essas ameaças estão apenas começando. Além disso, 60% dos CISOs, CIOs e líderes de TI se sentem despreparados para se defender contra tais ataques. O uso de deepfakes como parte de estratégias mais amplas, incluindo phishing e ransomware, está se tornando cada vez mais comum, indicando um deslocamento para cenários de ameaça mais sofisticados alimentados por IA generativa.
Alvo de Executivos: Uma Nova Estratégia para Atacantes
Especialistas em cibersegurança relatam uma tendência preocupante: os deepfakes estão evoluindo de detecções fáceis para imitações realistas, particularmente direcionadas a CEOs. Executivos do setor observam que atores estatais agressivos e grandes organizações criminosas estão investindo recursos em tecnologias de redes generativas adversariais (GAN). A sofisticação desses ataques foi destacada por um incidente notável que atingiu o CEO da maior empresa de publicidade do mundo.
Em uma conversa recente com o Wall Street Journal, o CEO da CrowdStrike, George Kurtz, discutiu como os avanços em IA tanto reforçam as defesas de cibersegurança quanto aprimoram as capacidades dos atacantes. Ele observou que a tecnologia de deepfake atual é tão avançada que é difícil discernir sua autenticidade. Ao afirmar que “a tecnologia de deepfake hoje é tão boa”, Kurtz enfatizou os riscos causados por campanhas de desinformação impulsionadas por estados-nação.
A equipe de Inteligência da CrowdStrike estuda ativamente o que torna os deepfakes convincentes, buscando entender a trajetória da tecnologia para um impacto máximo sobre os espectadores. Kurtz comparou a disseminação de informações a uma pedra criando ondas em um lago, onde tópicos significativos amplificam e afetam a percepção pública.
A Chamada à Ação para Empresas
As empresas correm o risco de perder a batalha contra a IA adversarial se não acompanharem a rápida evolução dos atacantes na implementação de IA para ataques deepfake. Com os deepfakes tornando-se cada vez mais comuns, o Departamento de Segurança Interna dos EUA publicou um guia intitulado “Aumentando as Ameaças das Identidades Deepfake”, ressaltando a urgência para as empresas fortalecerem suas defesas.
É crucial que as organizações desenvolvam estratégias proativas para mitigar os riscos colocados pela tecnologia de deepfake e se manterem à frente na crescente corrida armamentista da IA.
Classificação
