Hoje, a Pindrop, líder em segurança de voz, verificação de identidade e detecção de fraudes, lançou o Pulse Inspect—uma ferramenta baseada na web projetada para detectar fala gerada por IA em arquivos de áudio e vídeo digitais com uma impressionante taxa de precisão de 99%.
Atualmente disponível em pré-visualização como parte do conjunto Pulse da Pindrop, o Pulse Inspect permite a detecção de conteúdo gerado por IA, independentemente da ferramenta ou modelo utilizado para sua criação. Esta oferta inovadora se destaca das práticas comuns da indústria, onde os fornecedores de IA geralmente lançam classificadores limitados à detecção de conteúdo gerado por suas plataformas. A Pindrop oferece o Pulse Inspect por meio de uma assinatura anual, direcionada a organizações que precisam combater riscos de deepfakes de áudio em grande escala. O CEO Vijay Balasubramaniyan observou que, dependendo da demanda do mercado, podem ser introduzidos preços mais acessíveis com um número limitado de verificações para consumidores individuais.
Enfrentando o Aumento dos Deepfakes de Áudio
Embora os deepfakes existam há anos, a proliferação da IA generativa baseada em texto aumentou sua visibilidade online. Ferramentas de empresas como Microsoft e ElevenLabs têm sido utilizadas para criar conteúdo fraudulento de áudio e vídeo imitando celebridades, figuras de negócios e políticos, levando à desinformação e danos à reputação. Um relatório interno da Pindrop revela que mais de 12 milhões de americanos conhecem alguém que foi vítima da criação não consensual de deepfakes. Essas réplicas, que abrangem imagens, vídeos e áudio, exploram a viralidade, espalhando-se rapidamente nas redes sociais.
Para lidar com essa questão urgente, a Pindrop lançou o conjunto Pulse no início deste ano, com a primeira solução focada na detecção de chamadas deepfake para centrais de atendimento. Com o Pulse Inspect, a Pindrop amplia suas capacidades, permitindo que organizações analisem qualquer arquivo de áudio ou vídeo em busca de artefatos sintéticos.
Análise de Áudio Eficiente
O Pulse Inspect funciona como uma aplicação web simples, permitindo que usuários corporativos façam upload de arquivos potencialmente suspeitos para análise imediata. Antes, a identificação de artefatos sintéticos exigia um trabalho forense intensivo. Agora, a ferramenta processa arquivos em segundos, gerando uma “pontuação de deepfake” e identificando seções que contêm fala gerada por IA. Essa análise rápida capacita organizações a abordar a desinformação proativamente, preservando a integridade da marca.
Treinamento Avançado de Detecção
O modelo de detecção proprietário da Pindrop foi treinado em mais de 350 ferramentas de geração de deepfake e 20 milhões de enunciados únicos em mais de 40 idiomas, alcançando 99% de precisão na detecção de áudio deepfake, segundo avaliações internas de um conjunto de dados que compreende cerca de 200.000 amostras. O modelo avalia arquivos de mídia em busca de artefatos sintéticos a cada quatro segundos, garantindo uma classificação precisa, mesmo em ambientes de mídia mista.
Balasubramaniyan explicou: “A tecnologia da Pindrop utiliza avanços em redes neurais profundas (DNN) e análise espectro-temporal complexa para detectar artefatos sintéticos através de métodos variados.”
Capacidades Abrangentes de Detecção
A força do Pulse Inspect reside em sua capacidade de reconhecer deepfakes sem limitações específicas de fornecedores. Balasubramaniyan destacou que muitos deepfakes de áudio prevalentes têm origem em ferramentas de código aberto, em vez de comerciais. A ferramenta de detecção abrangente da Pindrop é essencial para identificar áudio sintético em múltiplos sistemas de geração. Contudo, é importante reconhecer que a ferramenta pode ter dificuldades com arquivos contendo menos de dois segundos de fala ou com ruído de fundo excessivo. A equipe está trabalhando ativamente para melhorar a precisão da detecção e abordar essas limitações.
Atualmente, a Pindrop direciona o Pulse Inspect para uma variedade de organizações, incluindo empresas de mídia, ONG's, agências governamentais, empresas de gerenciamento de celebridades, escritórios de advocacia e plataformas de mídia social. Embora Balasubramaniyan não tenha revelado números específicos de clientes, confirmou que vários parceiros estão utilizando o produto através de assinaturas anuais baseadas em volume, incluindo a TrueMedia.org, que ajuda usuários a identificar deepfakes em contextos eleitorais críticos.
Além dos uploads manuais, o Pulse Inspect pode ser integrado em fluxos de trabalho forenses personalizados através de uma API, facilitando casos de uso em massa, como sinalizar e remover conteúdo gerado por IA prejudicial nas redes sociais.
Olhando para o futuro, a Pindrop planeja aprimorar o conjunto Pulse, melhorando a explicabilidade de suas ferramentas, com a intenção de introduzir recursos que rastreiem a origem da geração de deepfakes, enquanto expandem o suporte para modalidades adicionais.
Classificação
