Увеличивающийся разрыв доверия в цифровой приватности и ИИ
87% американцев требуют от бизнеса ответственности за цифровую приватность, в то время как лишь 34% доверяют ему эффективное использование ИИ для борьбы с мошенничеством, что создает значимый разрыв доверия. Несмотря на то, что 51% предприятий применяют ИИ для кибербезопасности и предотвращения мошенничества, только 43% клиентов по всему миру считают, что компании адекватно решают эти проблемы. Это подчеркивает срочную необходимость для бизнеса преодолеть разрыв доверия и гарантировать, что их меры безопасности на основе ИИ вызывают уверенность. Появление дипфейков усугубляет эту ситуацию.
Понимание разрыва доверия
Расширяющийся разрыв доверия влияет на всё — от долгосрочных отношений с клиентами до целостности выборов в крупных мировых демократиях. Индекс доверия Telesign 2024 года освещает эту растущую пропасть, показывая, как опасения по поводу доверия влияют как на поведение потребителей, так и на национальные выборные процессы.
Влияние дипфейков и дезинформации
Дипфейки и дезинформация создают серьезное недоверие между компаниями, их клиентами и гражданами, участвующими в выборах. Эндрю Парсонс, старший директор инициативы по проверке контента Adobe, предупреждает: "Однажды обманутый дипфейком, вы можете больше не доверять тому, что видите онлайн. Когда люди не могут отличить вымысел от факта, под угрозу ставится демократия."
Легкость распространения дипфейков через социальные медиа, часто поддерживаемая автоматизированными аккаунтами, усложняет различение настоящего и поддельного контента. Ярким примером стало событие в сентябре 2020 года, когда Graphika и Facebook закрыли сеть китайских аккаунтов, размещавших дезинформирующий контент по геополитическим вопросам. Государственные структуры часто инвестируют в кампании дезинформации с целью дестабилизации демократии и разжигания социальных конфликтов.
Годовой отчет о рисках разведывательного сообщества США на 2024 год подчеркивает, что "Россия использует ИИ для создания дипфейков, способных обмануть экспертов", нацеливаясь на людей в политически нестабильных регионах для оказания негативного влияния. Злоумышленники используют передовые технологии дипфейков, основанные на генеративных состязательных сетях (GAN), что сказывается на избирателях по всему миру.
Согласно Индексу Telesign, 72% избирателей по всему миру обеспокоены тем, что дипфейки, созданные ИИ, подрывают целостность выборов, при этом 81% американцев также выражает подобные опасения. Более того, 45% американцев сталкивались с политическим контентом, созданным ИИ, в прошлом году, а 17% заметили это за последнюю неделю.
Доверие к ИИ и машинному обучению
Несмотря на озабоченность по поводу злоупотребления ИИ для подрыва выборов, Индекс Telesign выявляет положительный аспект: 71% американцев доверяли бы результатам выборов больше, если бы ИИ и машинное обучение использовались для минимизации кибератак и мошенничества.
Механизмы GAN и дипфейков
Генеративные состязательные сети (GAN) способствуют растущей реалистичности дипфейкового контента. От одиночек до сложных государственных участников, GAN используются для создания видео и голосовых клонирований, которые выглядят подлинными. Чем более правдоподобен дипфейк, тем больше потенциальная утечка доверия клиентов и избирателей. Эта технология, часто применяемая в фишинговых атаках и социальной инженерии, подчеркивает неотложную необходимость бдительности. New York Times даже предлагает тест, позволяющий читателям проверить свою способность различать реальные и ИИ-созданные изображения, демонстрируя быстрые достижения в технологии GAN.
GAN состоят из двух конкурирующих нейронных сетей: генератор создает синтетические данные, в то время как дискриминатор оценивает их реалистичность. Генератор стремится улучшить качество и подлинность своих выходных данных, что делает дипфейки все более трудными для выявления и ставит под угрозу доверие в обществе.
Защита доверия в мире дипфейков
Кристоф Ван де Вейер, генеральный директор Telesign, подчеркивает важную роль доверия в цифровую эпоху, заявляя: "По мере развития ИИ мы должны придавать первостепенное значение решениям по защите от мошенничества, основанным на ИИ, для защиты личных и институциональных данных." Telesign использует данные более 2,200 цифровых идентификационных сигналов для повышения доверия и обеспечения безопасных транзакций, предотвращая миллионов мошенничеств каждый месяц.
Согласно Индексу Telesign, ошеломляющие 99% успешных цифровых взломов происходят, когда аккаунты не имеют многофакторной аутентификации (MFA). Внедрение надежных стратегий MFA является необходимым для предотвращения нарушений и поддержания доверия клиентов. Исследования показывают, что значительное количество бывших сотрудников продолжает иметь доступ к конфиденциальным данным компании, что подчеркивает критическую важность эффективного управления идентификацией и доступом (IAM).
Заключение: Сохранение доверия на фоне роста дипфейков
Индекс доверия Telesign иллюстрирует настоятельную необходимость устранения существующих разрывов доверия, особенно в практиках IAM и MFA. Поскольку технологии GAN продолжают развиваться, повышая способность создавать обманчивый контент, укрепление мер безопасности станет жизненно важным для руководителей по информационной безопасности. Почти все нарушения начинаются с компрометированных идентичностей; поэтому бизнес должен приоритизировать защиту от этих уязвимостей, даже несмотря на растущую угрозу дипфейков.
Рейтинг
