FTC начинает борьбу с угрозами технологий голосового клонирования ИИ

Клонирование Голоса: Риски и Регулирование

Клонирование голоса, способность убедительно воспроизводить чей-то голос, стало популярным в этом году. Появились различные стартапы и технологии, в том числе вирусная песня с голосами музыкальных икон Дрейка и The Weeknd.

Однако этот прорыв вызывает серьезные опасения за безопасность потребителей, особенно в контексте мошенничества. Федеральная торговая комиссия (FTC), отвечающая за предотвращение вреда потребителям и обеспечение честной рыночной конкуренции, считает клонирование голоса значительной угрозой. Представьте, что вы получаете звонок от человека, якобы вашей матери, который требует срочный перевод 5000 долларов, или кто-то использует ваш голос для доступа к вашим банковским счетам через службу поддержки.

В ответ на это FTC планирует объявить о запуске эксперимента по клонированию голоса на своем предстоящем заседании 16 ноября. Эта инициатива призвана мотивировать технологов и общественность разрабатывать многопрофильные решения для борьбы с потенциальными угрозами, связанными с клонированием голоса на базе ИИ, включая мошенничество и неправильное использование биометрических данных.

Быстрое Развитие Технологии Клонирования Голоса

Технология клонирования голоса не только стремительно развивается, но и привлекает значительные инвестиции. Например, один режиссер недавно создал дипфейк-видео с участием первой леди Джилл Байден, критикующего политику США в отношении Палестины. Видео было создано всего за неделю с использованием ElevenLabs — одного из ведущих стартапов в этой области — подчеркивающего потенциал ИИ в создании убедительных нарративов.

ElevenLabs, основанный экс-сотрудниками спорной военно-корпоративной разведывательной компании, привлек значительный интерес инвесторов и, как сообщается, ищет миллиард долларов в рамках третьего раунда финансирования в этом году, согласно Business Insider. Эта стремительная экспансия подчеркивает привлекательные возможности клонирования голоса, параллельно с растущей доступностью открытых решений.

Однако с этим быстрым развитием возникают риски злоупотреблений, и регуляторы стремятся опередить потенциальные проблемы с помощью проактивных инициатив, таких как вызов от FTC.

Устранение Рисков Клонирования Голоса

Основная проблема клонирования голоса заключается в том, что оно может генерировать звучащую как настоящая речь всего из нескольких минут аудио. Эта возможность открывает двери для создания обманчивого аудио и видео-контента, который может манипулировать и вводить в заблуждение аудиторию. Эксперты предупреждают о риске мошенничества, использовании дипфейков для публичного позора и синтетической пропаганде, способной подорвать политические процессы.

Текущие усилия по смягчению последствий в основном зависят от добровольных практик отрасли, что может оказаться недостаточным. Вызов от FTC представляет собой координированный подход, побуждающий участников сотрудничать в разработке технических, правовых и политических решений, которые улучшат ответственность и защиту потребителей.

Предложения могут включать улучшение методов обнаружения дипфейков и создание стандартов для происхождения синтетических медиа. Эти решения направлены на содействие инновациям при обеспечении безопасности и ответственности.

Обязательства FTC по Защите Потребителей

Скептицизм FTC относительно рисков генеративного ИИ был выражен в комментариях, поданных в Бюро авторских прав США. Агентство высказало озабоченность по поводу обучения ИИ на "пиратском контенте без согласия", что связано с обсуждениями о том, обеспечивают ли инструменты клонирования голоса достаточное разрешение на использование речевых образцов. Вызов по клонированию голоса нацелен на установление наилучших практик для ответственного сбора и управления персональными данными.

Кроме того, FTC подчеркивает риски обмана потребителей из-за имитации ИИ. Призыв намерен стимулировать разработку техник, которые точно идентифицируют синтетическую речь и уменьшают количество вводящих в заблуждение дипфейков.

Запуская эту инициативу, FTC стремится проактивно повлиять на направление клонирования голоса и других генеративных технологий, направляя их к решениям, которые эффективно решают проблемы потребителей и конкуренции, указанные в ее заявке на авторское право.