A Crescente Lacuna de Confiança em Privacidade Digital e IA
Com 87% dos americanos exigindo responsabilidade das empresas em relação à privacidade digital, mas apenas 34% confiando que elas utilizam a IA de forma eficaz para combater fraudes, uma significativa lacuna de confiança se formou. Embora 51% das empresas estejam implantando IA para cibersegurança e prevenção de fraudes, apenas 43% dos clientes globais acreditam que as empresas estão abordando essas questões de maneira precisa. Isso destaca a urgente necessidade de as empresas fecharem essa lacuna e garantirem que suas medidas de segurança impulsionadas por IA inspirem confiança. O surgimento de deepfakes agrava ainda mais este problema.
Entendendo a Lacuna de Confiança
A lacuna de confiança em expansão afeta desde relacionamentos duradouros com clientes até a integridade das eleições em democracias globais. O Índice de Confiança 2024 da Telesign ilumina essa divisão crescente, revelando como as preocupações de confiança impactam tanto o comportamento do consumidor quanto os processos eleitorais nacionais.
O Impacto dos Deepfakes e da Desinformação
Deepfakes e desinformação estão criando desconfiança significativa entre empresas, seus clientes e cidadãos que participam das eleições. Andy Parsons, Diretor Sênior da Iniciativa de Autenticidade de Conteúdo da Adobe, alerta: “Uma vez enganado por um deepfake, você pode não confiar mais no que vê online. Quando as pessoas não conseguem diferenciar entre ficção e fato, a democracia está em risco.”
A facilidade de disseminação de deepfakes por meio de plataformas de redes sociais, muitas vezes alimentada por contas automatizadas, complica a capacidade de discernir conteúdos reais de falsos. Um caso notável ocorreu em setembro de 2020, quando a Graphika e o Facebook fecharam uma rede de contas chinesas que publicavam conteúdos enganosos sobre questões geopolíticas. Estados-nação frequentemente investem em campanhas de desinformação para desestabilizar a democracia e fomentar a agitação social.
A Avaliação Anual de Ameaças de 2024 da Comunidade de Inteligência dos EUA destaca que “a Rússia usa IA para criar deepfakes capazes de enganar especialistas”, visando indivíduos em regiões politicamente instáveis para exercer influência maligna. Atacantes exploram tecnologias avançadas de deepfake, potencializadas por redes adversariais generativas (GANs), afetando eleitores em todo o mundo.
De acordo com o Índice da Telesign, 72% dos eleitores globais estão preocupados que deepfakes gerados por IA comprometam a integridade das eleições, com 81% dos americanos expressando medos semelhantes. Além disso, 45% dos americanos encontraram conteúdo político gerado por IA no último ano, enquanto 17% notaram isso na última semana.
Confiança em IA e Aprendizado de Máquina
Apesar das preocupações sobre o uso indevido da IA para perturbar eleições, o Índice da Telesign revela um aspecto positivo: 71% dos americanos confiariam mais nos resultados eleitorais se a IA e o aprendizado de máquina (ML) fossem utilizados para mitigar ciberataques e fraudes.
A Mecânica das GANs e Deepfakes
Redes Adversariais Generativas (GANs) impulsionam o crescente realismo do conteúdo deepfake. De indivíduos isolados a agentes estatais sofisticados, as GANs são usadas para gerar vídeos e clones de voz que parecem autênticos. Quanto mais crível o deepfake, maior a erosão da confiança de clientes e eleitores. Essa tecnologia, muitas vezes empregada em ataques de phishing e engenharia social, destaca a urgente necessidade de vigilância. O New York Times até oferece um quiz para testar a capacidade dos leitores de diferenciar entre imagens reais e geradas por IA, mostrando as rápidas evoluções na tecnologia GAN.
As GANs consistem em duas redes neurais em competição: o gerador cria dados sintéticos, enquanto o discriminador avalia seu realismo. O gerador busca aprimorar a qualidade e autenticidade de suas saídas, tornando os deepfakes cada vez mais difíceis de detectar, comprometendo a confiança na sociedade.
Protegendo a Confiança em um Mundo de Deepfakes
Christophe Van de Weyer, CEO da Telesign, enfatiza o papel crucial da confiança na era digital, afirmando: “À medida que a IA evolui, devemos priorizar soluções de proteção contra fraudes impulsionadas por IA para salvaguardar dados pessoais e institucionais.” A Telesign utiliza insights de mais de 2.200 sinais de identidade digital para aumentar a confiança e garantir transações, prevenindo milhões de atividades fraudulentas a cada mês.
De acordo com o Índice da Telesign, impressionantes 99% das intrusões digitais bem-sucedidas ocorrem quando as contas não têm autenticação multifatorial (MFA). Implementar estratégias robustas de MFA é essencial para impedir violações e manter a confiança do cliente. Pesquisas indicam que um número considerável de ex-funcionários continua tendo acesso a dados sensíveis da empresa, destacando a importância crítica de uma gestão eficaz de identidade e acesso (IAM).
Conclusão: Preservando a Confiança em Meio ao Aumento dos Deepfakes
O Índice de Confiança da Telesign ilustra a necessidade urgente de abordar as lacunas de confiança existentes, especialmente nas práticas de IAM e MFA. À medida que a tecnologia GAN avança, aprimorando a capacidade de criar conteúdo enganoso, fortalecer as medidas de segurança será vital para os CISOs. Quase todas as violações começam com identidades comprometidas; portanto, as empresas devem priorizar a proteção contra essas vulnerabilidades, mesmo com o aumento da ameaça dos deepfakes.
Classificação
