McAfee Lança o Projeto Mockingbird: Um Escudo Contra Golpes de Áudio Deepfake Gerados por IA
Em resposta à crescente ameaça de golpes impulsionados por IA, a McAfee lançou o Projeto Mockingbird, uma tecnologia de Detecção de Áudio Deepfake movida por IA, projetada para proteger os consumidores de cibercriminosos que manipulam áudios para espalhar desinformação e executar fraudes.
Apresentado na CES 2024, importante feira de tecnologia em Las Vegas, o Projeto Mockingbird visa defender os usuários contra áudios deepfake enganadores que podem distorcer a percepção pública. Como explicou o CTO da McAfee, Steve Grobman, os golpes deepfake frequentemente apresentam locutores reconhecíveis, como âncoras de notícias, cujas vozes são alteradas para pronunciar coisas que nunca disseram.
"A McAfee sempre se concentrou na proteção dos consumidores contra ameaças digitais. Com o advento da IA generativa, estamos vendo uma mudança significativa, pois cibercriminosos exploram essas tecnologias para orquestrar diferentes tipos de golpes", afirmou Grobman.
Com a aproximação da temporada eleitoral, aumenta a preocupação sobre o papel da IA generativa nas campanhas de desinformação. A McAfee está comprometida em aprimorar sua tecnologia para garantir que os clientes consigam diferenciar vídeos autênticos de manipulados. O desafio é especialmente agudo, dado o potencial dos deepfakes de se mesclarem a outros conteúdos hackeados, complicando os esforços de discernimento.
Grobman citou um exemplo envolvendo a Insomniac Games, onde hackers vazaram dados privados. O áudio deepfake poderia ser integrado perfeitamente a imagens hackeadas reais, aumentando a ambiguidade para os consumidores.
O Projeto Mockingbird utiliza técnicas de IA sofisticadas para identificar se as faixas de áudio realmente pertencem à pessoa que supostamente está falando. Ao analisar as palavras faladas, essa tecnologia enfrenta a tendência alarmante da IA generativa, que cria áudios deepfake convincentes. Embora os deepfakes em vídeo tenham chamado atenção, Grobman destaca que a natureza insidiosa da decepção por áudio representa um novo desafio, especialmente à medida que esses conteúdos falsos proliferam nas redes sociais.
A ascensão da tecnologia de IA capacitou cibercriminosos a criar conteúdos enganosos, resultando em fraudes que exploram áudios e vídeos manipulados. Essas táticas vão desde a clonagem de voz para se passar por entes queridos até a alteração de vídeos genuínos com áudios falsos, dificultando a capacidade dos consumidores de avaliar a autenticidade.
Para responder a essa necessidade urgente de clareza, os McAfee Labs desenvolveram um modelo avançado de IA capaz de detectar áudio gerado por IA com mais de 90% de precisão. Esse modelo combina técnicas de detecção contextual, comportamental e categórica para proteger eficazmente os usuários.
"Essa tecnologia é crucial para empoderar os usuários a navegar suas interações digitais com confiança, particularmente à medida que os golpes gerados por IA proliferam", afirmou Grobman. "Ao aproveitar nossas capacidades de detecção de áudio deepfake, ajudaremos os consumidores a distinguir rapidamente entre conteúdo real e tentativas fraudulentas, aumentando sua capacidade de proteger sua privacidade e identidade."
Durante a CES 2024, a McAfee demonstrou o Projeto Mockingbird, apresentando suas capacidades aos participantes. Essa iniciativa destaca o compromisso da empresa em oferecer um robusto portfólio de modelos de IA destinados a proteger os consumidores de ameaças digitais.
Inspirando-se no comportamento dos sabiás, conhecidos por imitar sons, a McAfee destaca o paralelo entre esses pássaros e os cibercriminosos que replicam vozes para enganar os consumidores.
Uma pesquisa realizada pela McAfee em dezembro de 2023 ressalta a preocupação generalizada com a tecnologia deepfake. Quase 68% dos entrevistados expressaram maior ansiedade em relação aos deepfakes em comparação ao ano anterior, com 33% reconhecendo familiaridade com golpes deepfake. As principais preocupações incluem o potencial para interferência nas eleições, ciberbullying e a personificação de figuras públicas.
"À medida que nos aproximamos de um ciclo eleitoral crítico, há uma preocupação válida de que a tecnologia deepfake possa impactar o discurso público", observou Grobman. "Nossa IA identifica características sutis que podem ser invisíveis ao olho humano, permitindo que os consumidores diferenciem entre conteúdo autêntico e manipulado."
A tecnologia de detecção da McAfee analisa dados brutos de vídeo e emprega modelos de aprendizado de máquina para determinar se o conteúdo é legítimo. Esse sistema, anteriormente utilizado para detecção de malware, adapta-se para identificar áudios e vídeos profundamente alterados, fortalecendo a segurança do consumidor.
Para navegar em um ambiente digital cada vez mais complexo, Grobman enfatizou a importância do ceticismo e da educação do consumidor sobre as tecnologias deepfake. "Queremos que os consumidores estejam cientes de que, se algo parecer estranho, pode ser gerado por IA. Nosso objetivo é fornecer tecnologia confiável para ajudá-los a identificar conteúdos enganosos e garantir experiências digitais seguras."
O Projeto Mockingbird representa a resposta proativa da McAfee à crescente ameaça de manipulação aprimorada por IA, evoluindo além das fases experimentais para se tornar um componente central de suas ofertas de produtos.
Classificação
