McAfee представляет Project Mockingbird: Защита от мошенничества с использованием AI-генерируемого аудио
В ответ на растущую угрозу мошенничеству с использованием искусственного интеллекта McAfee запустила Project Mockingbird — технологию обнаружения глубоких фейков в аудио, защищающую потребителей от киберпреступников, манипулирующих звуком для распространения дезинформации и мошеннических схем.
Проект был представлен на выставке CES 2024 в Лас-Вегасе и направлен на защиту пользователей от вводящего в заблуждение аудио, которое может исказить общественное мнение. Как объяснил технический директор McAfee Стив Гробман, мошеннические записи часто используют голоса известных личностей, таких как ведущие новостей, изменяя их для создания ложных высказываний.
"McAfee всегда сосредотачивалась на защите потребителей от цифровых угроз. С появлением генеративного ИИ киберпреступники используют эти технологии для организации различных типов мошенничества," — сказал Гробман.
С приближением выборов растут опасения о роли генеративного ИИ в кампании дезинформации. McAfee обязалась улучшать свои технологии, чтобы клиенты могли различать подлинные и измененные видео. Это особенно актуально, поскольку глубокие фейки могут быть объединены с другим взломанным контентом, что усложняет процесс распознавания.
Гробман привел пример с Insomniac Games, где хакеры слили конфиденциальные данные. Глубокое фейковое аудио может быть интегрировано в реальные взломанные видео, создавая дополнительные сложности для пользователей.
Project Mockingbird использует сложные методы AI для определения, действительно ли аудиотрек принадлежит заявленному говорящему. Анализируя произнесенные слова, эта технология реагирует на тревожную тенденцию генеративного ИИ создавать убедительное фейковое аудио. Несмотря на внимание к видео-фейкам, Гробман подчеркивает, что коварная природа аудиообмана создает новые вызовы, особенно на платформах социальных медиа.
Рост технологий AI наделил киберпреступников возможностью создавать вводящее в заблуждение содержание, что ведет к мошенничеству с манипулированным аудио и видео. Эти тактики варьируются от подделки голосов близких до изменения реальных видео с использованием ложного звука, что затрудняет оценку подлинности для потребителей.
В ответ на срочную необходимость в ясности McAfee Labs разработал передовую модель AI, способную обнаруживать AI-генерируемое аудио с точностью более 90%. Эта модель сочетает в себе контекстуальные, поведенческие и категориальные методы обнаружения для надежной защиты пользователей.
"Эта технология важна для того, чтобы предоставить пользователям возможность уверенно взаимодействовать в цифровом пространстве, особенно в условиях роста мошенничеств с использованием AI," — подтвердил Гробман. "С помощью наших возможностей обнаружения глубокой фальсификации аудио мы поможем потребителям быстро отличать подлинный контент от мошеннических попыток, что повысит их способность защищать свою личную информацию и идентификацию."
Во время CES 2024 McAfee продемонстрировала Project Mockingbird, показывая его возможности присутствующим. Эта инициатива подчеркивает стремление компании предоставить надежный портфель AI-моделей, предназначенных для защиты потребителей от цифровых угроз.
Вдохновляясь поведением соловьев, известных своим умением подражать звукам, McAfee подчеркивает параллель между этими птицами и киберпреступниками, которые имитируют голоса для обмана пользователей.
Опрос McAfee, проведенный в декабре 2023 года, подчеркивает широкую обеспокоенность по поводу технологии глубоких фейков. Почти 68% респондентов выразили повышенное беспокойство по сравнению с предыдущим годом, и 33% признали, что знают о мошеннических схемах с глубокими фейками. Основные опасения касаются потенциального вмешательства в выборы, кибербуллинга и подделки публичных личностей.
"С приближением критического электорального цикла существует обоснованная опасность, что технологии глубоких фейков могут повлиять на общественные дискуссии," — отметил Гробман. "Наш AI выявляет тонкие характеристики, которые могут быть незаметны человеческому глазу, позволяя потребителям различать подлинный и подделанный контент."
Технология обнаружения McAfee анализирует сырые данные видео и использует модели машинного обучения для определения легитимности контента. Эта система, ранее использовавшаяся для обнаружения вредоносного ПО, адаптируется для выявления глубоко измененного аудио и видео, повышая безопасность потребителей.
Чтобы справиться с усложняющимся цифровым ландшафтом, Гробман подчеркивает важность скептицизма потребителей и образования о технологиях глубоких фейков. "Мы хотим, чтобы потребители понимали: если что-то кажется странным, это может быть сгенерировано AI. Наша цель — предоставить надежные технологии для выявления вводящего в заблуждение контента и обеспечения безопасного цифрового взаимодействия."
Project Mockingbird является проактивным ответом McAfee на растущую угрозу манипуляций с использованием AI, переходя от экспериментальных фаз к основному компоненту их продуктового предложения.
Рейтинг
