Технология дипфейков, по прогнозам, достигнет 40 миллиардов долларов к 2027 году на фоне растущей угрозы от противостоящего ИИ.

Риски, связанные с дипфейками, растут: неотложная угроза для предприятий

Технология дипфейков стремительно становится одной из самых серьезных форм противника в области искусственного интеллекта, с прогнозируемыми убытками, увеличивающимися с 12,3 миллиарда долларов в 2023 году до 40 миллиардов долларов к 2027 году — впечатляющий среднегодовой темп роста на уровне 32%. Согласно отчету Deloitte, распространение дипфейков особенно вызывает опасения в банковском секторе и сфере финансовых услуг.

Всего за последний год дипфейки увеличились на ошеломляющие 3 000%, и ожидается, что количество инцидентов вырастет на 50-60% в 2024 году, достигнув 140 000-150 000 случаев по всему миру в этом году. Новейшие приложения генеративного ИИ позволяют злоумышленникам быстро и дешево создавать убедительные дипфейк-видео, подражать голосам и производить поддельные документы. По оценкам отчета Pindrop 2024 Voice Intelligence and Security, мошенничество с использованием дипфейков, нацеленное на контактные центры, обходится бизнесу примерно в 5 миллиардов долларов ежегодно, что подчеркивает угрозу, которую эта технология представляет для банковского сектора и финансов.

Bloomberg сообщила о процветающем подпольном рынке на даркнете, где программное обеспечение для мошенничества продается по ценам от 20 долларов до нескольких тысяч. Инфографика на основе отчета Sumsub о мошенничестве с идентификацией за 2023 год иллюстрирует тревожный рост мошенничества с использованием ИИ в глобальном масштабе.

Готовность предприятий: нарастающая проблема

С развитием противника в области ИИ появляются непредвиденные векторы атак, что усложняет ландшафт безопасности. Тревожный факт: каждое третье предприятие не имеет стратегии борьбы с рисками, связанными с дипфейками, особенно нацеленными на ключевых руководителей. Отчет Ivanti 2024 State of Cybersecurity указывает, что 30% организаций не планируют идентификацию или защиту от атак на основе противника ИИ.

Отчет показывает, что 74% опрошенных предприятий уже сталкиваются с угрозами, основанными на ИИ, и 89% считают, что эти угрозы только начинают проявляться. Кроме того, 60% CISO, CIO и IT-лидеров чувствуют себя неподготовленными к защите от таких атак. Использование дипфейков как части более широких стратегий, включая фишинг и программы-вымогатели, становится все более распространенным, что указывает на переход к более сложным угрозам, подпитываемым генеративным ИИ.

Нацеливание на высших руководителей: новая стратегия атакующих

Эксперты по кибербезопасности сообщают о тревожной тенденции: дипфейки эволюционируют от легко обнаруживаемых до реалистичных impersonaciy, особенно нацеливаясь на CEOs. Отраслевые руководители отмечают, что агрессивные национальные акторы и крупные киберпреступные организации инвестируют ресурсы в технологии генеративных соревновательных сетей (GAN). Сложность этих атак была подчеркнута заметным инцидентом, нацеленным на CEO крупнейшей рекламной компании в мире.

В недавнем интервью Wall Street Journal генеральный директор CrowdStrike Джордж Курц обсудил, как достижения в области ИИ как усиливают защиту кибербезопасности, так и улучшают возможности атакующих. Он отметил, что современная дипфейк-технология настолько развита, что сложно определить подлинность. Подчеркивая риски, связанные с дезинформацией, подстегиваемой государствами, Курц сказал: «Технология дипфейков сегодня настолько хороша».

Команда разведки CrowdStrike активно изучает, что делает дипфейки убедительными, стремясь понять траекторию технологии для максимального влияния на зрителей. Курц сравнил распространение информации с камешком, создающим рябь в пруду, где значимые темы усиливаются и влияют на общественное восприятие.

Призыв к действию для предприятий

Предприятия рискуют проиграть борьбу с противником ИИ, если не будут успевать за быстрым развитием атакующих в применении ИИ для дипфейк-атак. Поскольку дипфейки становятся все более распространенными, Министерство внутренней безопасности выпустило руководство под названием «Увеличивающиеся угрозы дипфейковых идентификаторов», подчеркивая необходимость для предприятий укрепить свои оборонные линии.

Организациям крайне важно разрабатывать проактивные стратегии для снижения рисков, связанных с технологией дипфейков, и опережать в текущей гонке вооружений ИИ.