Hoy, Pindrop, líder en seguridad de voz, verificación de identidad y detección de fraude, presentó Pulse Inspect, una herramienta web diseñada para detectar discursos generados por inteligencia artificial en archivos de audio y video digitales con una impresionante tasa de precisión del 99%.
Actualmente disponible en versión preliminar como parte de la suite Pulse de Pindrop, Pulse Inspect permite la detección de contenido generado por IA, sin importar la herramienta o modelo utilizado para su creación. Esta oferta innovadora se distingue de las prácticas convencionales de la industria, donde los proveedores de IA suelen lanzar clasificadores limitados a detectar contenido creado únicamente en sus plataformas. Pindrop ofrece Pulse Inspect a través de una suscripción anual, dirigida a organizaciones que necesitan combatir los riesgos de deepfakes de audio a gran escala. El CEO, Vijay Balasubramaniyan, mencionó que, dependiendo de la demanda del mercado, podrían introducir niveles de precios más asequibles con un número limitado de verificaciones para consumidores individuales.
Abordando el Aumento de los Deepfakes de Audio
Aunque los deepfakes existen desde hace años, la proliferación de IA generativa basada en texto ha aumentado su visibilidad en línea. Herramientas de compañías como Microsoft y ElevenLabs se han utilizado para crear contenido fraudulento de audio y video que imita a celebridades, figuras empresariales y políticos, causando desinformación y daños reputacionales.
Un informe interno de Pindrop revela que más de 12 millones de adultos estadounidenses son conscientes de alguien que ha sido víctima de la creación de deepfakes no consensuales. Estas réplicas, que abarcan imágenes, videos y audio, explotan la viralidad, propagándose rápidamente a través de las redes sociales.
Para abordar este problema urgente, Pindrop lanzó la suite Pulse a principios de este año, con la primera solución enfocada en detectar llamadas deepfake a centros de atención al cliente. Con Pulse Inspect, Pindrop amplía sus capacidades, permitiendo a las organizaciones analizar cualquier archivo de audio o video en busca de artefactos sintéticos.
Análisis de Audio Eficiente
Pulse Inspect funciona como una aplicación web sencilla, permitiendo a los usuarios empresariales subir archivos potencialmente cuestionables para análisis inmediatos. Anteriormente, identificar artefactos sintéticos requería un trabajo forense laborioso. Ahora, la herramienta procesa archivos en segundos, generando un "puntaje de deepfake" y señalando secciones que contienen discurso generado por IA. Este análisis rápido capacita a las organizaciones para abordar la desinformación de manera proactiva, preservando la integridad de la marca.
Entrenamiento Avanzado en Detección
El modelo de detección propietario de Pindrop ha sido entrenado en más de 350 herramientas de generación de deepfakes y 20 millones de expresiones únicas en más de 40 idiomas, logrando un 99% de precisión en la detección de audio deepfake, según evaluaciones internas de un conjunto de datos que incluye alrededor de 200,000 muestras. El modelo evalúa los archivos de medios en busca de artefactos sintéticos cada cuatro segundos, asegurando una clasificación precisa incluso en entornos de medios mixtos. Balasubramaniyan explicó: “La tecnología de Pindrop utiliza avances en redes neuronales profundas (DNN) y análisis espectro-temporal intrincado para detectar artefactos sintéticos a través de varios métodos.”
Capacidades de Detección Integral
La fortaleza de Pulse Inspect radica en su capacidad para reconocer deepfakes sin limitaciones específicas del proveedor. Balasubramaniyan destacó que muchos de los prevalententes deepfakes de audio provienen de herramientas de código abierto en lugar de comerciales. La amplia herramienta de detección de Pindrop es esencial para identificar audio sintético a través de múltiples sistemas de generación. Sin embargo, es importante reconocer que la herramienta puede tener dificultades con archivos que contienen menos de dos segundos de discurso o con ruido de fondo excesivo. El equipo está trabajando activamente para mejorar la precisión de detección y abordar estas limitaciones.
Actualmente, Pindrop dirige Pulse Inspect a una variedad de organizaciones, incluidas compañías de medios, organizaciones sin fines de lucro, agencias gubernamentales, firmas de gestión de celebridades, firmas legales y plataformas de redes sociales. Si bien Balasubramaniyan no reveló un número específico de clientes, confirmó que varios socios están utilizando el producto a través de suscripciones anuales basadas en volumen, incluida TrueMedia.org, que ayuda a los usuarios a identificar deepfakes en contextos electorales críticos.
Además de las cargas manuales, Pulse Inspect puede integrarse en flujos de trabajo forenses personalizados a través de una API, facilitando casos de uso masivos, como marcar y eliminar contenido dañino generado por IA en redes sociales.
De cara al futuro, Pindrop planea mejorar la suite Pulse, incrementando la explicabilidad de sus herramientas y buscando introducir características que rastreen el origen de la generación de deepfakes, ampliando al mismo tiempo el soporte para modalidades adicionales.
Clasificación
