Сегодня компания Pindrop, лидер в области голосовой безопасности, проверки личности и обнаружения мошенничества, представила Pulse Inspect — веб-инструмент, предназначенный для обнаружения синтетической речи, созданной с помощью ИИ, в цифровых аудио и видеофайлах с впечатляющей точностью в 99%.
В настоящее время доступный в режиме предварительного просмотра в рамках пакета Pulse от Pindrop, Pulse Inspect позволяет выявлять контент, созданный ИИ, независимо от используемого инструмента или модели. Это новаторское решение отличает его от привычных методов на рынке, когда поставщики ИИ в основном предлагают классификаторы, способные обнаруживать лишь контент, созданный на их платформах. Pindrop предлагает Pulse Inspect по годовой подписке, ориентированной на организации, которым необходимо бороться с рисками аудио дипфейков в широком масштабе. Генеральный директор Виджай Баласубраманиан отметил, что в зависимости от спроса на рынке они могут ввести более доступные тарифные планы с ограниченным числом проверок для частных пользователей.
Реагирование на рост аудио дипфейков
Хотя дипфейки существуют уже несколько лет, распространение текстового генеративного ИИ повысило их видимость в интернете. Инструменты от компаний, таких как Microsoft и ElevenLabs, были использованы для создания поддельного аудио и видео контента, имитирующего известных личностей, бизнесменов и политиков, что ведет к распространению дезинформации и ущербу репутации. Внутний отчет Pindrop показывает, что более 12 миллионов американцев знают о жертвах несанкционированного создания дипфейков. Эти реплики, включая изображения, видео и аудио, стремительно распространяются в социальных сетях.
Чтобы противостоять этой серьезной проблеме, Pindrop выпустила пакет Pulse в начале этого года, а первое решение было сосредоточено на обнаружении дипфейков в звонках в колл-центры. С Pulse Inspect Pindrop расширяет свои возможности, позволяя организациям анализировать любые аудио или видео файлы на наличие синтетических артефактов.
Эффективный анализ аудио
Pulse Inspect работает как простой веб-приложение, позволяющее пользователям загружать сомнительные файлы для мгновенного анализа. Ранее выявление синтетических артефактов требовало трудоемкой судебной экспертизы. Теперь инструмент обрабатывает файлы за считанные секунды, генерируя "оценку дипфейка" и выделяя участки с речью, созданной ИИ.
Этот быстрый анализ позволяет организациям проактивно реагировать на дезинформацию, сохраняя целостность бренда.
Совершенные возможности обнаружения
Собственная модель обнаружения Pindrop была обучена на более чем 350 инструментах генерации дипфейков и 20 миллионах уникальных высказываний на более чем 40 языках, достигая 99% точности в выявлении дипфейкового аудио согласно внутренним оценкам набора данных, состоящему примерно из 200,000 образцов. Модель анализирует медиафайлы на наличие синтетических артефактов каждые четыре секунды, обеспечивая точную классификацию даже в смешанных медиасредах.
Баласубраманиан объяснил: "Технология Pindrop использует достижения в области глубоких нейронных сетей (DNN) и сложного спектро-временного анализа для обнаружения синтетических артефактов различными способами."
Комплексные возможности обнаружения
Сила Pulse Inspect заключается в его способности распознавать дипфейки без ограничений, связанных с конкретными поставщиками. Баласубраманиан указал, что многие распространенные аудио дипфейки исходят от инструментов с открытым исходным кодом, а не от коммерческих решений. Расширенный инструмент Pindrop необходим для выявления синтетического аудио на различных системах генерации.
Тем не менее, важно отметить, что инструмент может испытывать трудности с файлами, содержащими менее двух секунд речи или чрезмерный фоновый шум. Команда активно работает над повышением точности обнаружения и устранением этих ограничений.
В настоящее время Pindrop нацеливает Pulse Inspect на широкий круг организаций, включая медиа-компании, некоммерческие организации, государственные учреждения, компании по управлению известными личностями, юридические фирмы и социальные платформы. Хотя Баласубраманиан не сообщил конкретные цифры, он подтвердил, что несколько партнеров используют продукт через годовые подписки, основанные на объемах, включая TrueMedia.org, помогающую пользователям выявлять дипфейки в критических электоральных контекстах.
Помимо ручных загрузок, Pulse Inspect может быть интегрирован в индивидуальные судебно-технические рабочие процессы через API, что облегчает массовое использование, такое как маркировка и удаление опасного контента, созданного ИИ, в социальных сетях.
В дальнейшем Pindrop планирует усовершенствовать пакет Pulse, повышая объяснимость своих инструментов и намереваясь ввести функции, которые будут отслеживать источник генерации дипфейков, а также расширить поддержку дополнительных модальностей.
Рейтинг
