Генеративный ИИ способен создавать сонеты за секунды, но также способствует миллиардам мошенничества с личностью, нанося значительный ущерб репутации людей, организаций и правительств. Согласно отчету AU10TIX за второй квартал 2023 года о мировом мошенничестве с личностью, организованное мошенничество в США увеличилось на 44% по сравнению с предыдущими кварталами.
Данные в отчете AU10TIX основаны на решениях для обнаружения мошенничества с использованием ИИ, в частности, на инструменте Serial Fraud Monitor. Этот инструмент зафиксировал рост профессиональных организованных атак и различных режимов атак по всему миру, особенно в уязвимых секторах, таких как криптовалюта и платежи. Этот рост непосредственно связан с нашим все более цифровым миром, что усложняет установление доверия между финансовыми услугами, потребителями и технологиями, обеспечивающими безопасные взаимодействия — проблема, усугубляемая генеративным ИИ.
«Большие языковые модели и генеративный ИИ позволяют профессиональным мошенникам убедительно имитировать действительные личности, усложняя различие между подделками и подлинными идентичностями», — утверждает Дан Йерушальми, CEO AU10TIX.
«Мошенники открывают не просто несколько аккаунтов; они проводят масштабные атаки на протяжении недель или месяцев, нанося значительный ущерб», — добавляет Офер Фридман, директор по развитию бизнеса AU10TIX. «Организации сталкиваются с серьезными последствиями, часто чувствуя себя подавленными».
Потребители требуют повышенной безопасности и контроля, все больше отдавая предпочтение безопасности над удобством. Организации, которые не соответствуют этим ожиданиям в области безопасности, рискуют утратить доверие клиентов.
Влияние генеративного ИИ на мошенничество
«Генеративный ИИ предоставляет мошенникам большие объемы данных и позволяет им бесконечно адаптировать свои методы», — объясняет Йерушальми. «Эта технология доступна и экономически эффективна, привлекая новых игроков, которые могут использовать инструменты кибератак для значительного воздействия».
Генеративный ИИ влияет на мошенничество через несколько механизмов. Дипфейки могут создавать реалистичные изображения, голосовые записи и видео для проведения сложных схем социального манипулирования и фишинга. Мошенники используют дипфейки для создания поддельных аккаунтов, обхода проверки личности или обмана биометрических систем с помощью атак презентования и инъекции.
Кроме того, генеративный ИИ позволяет мошенникам создавать целые идентичности. «Мошенники осваивают ИИ быстрее, чем другие секторы», — замечает Фридман. «Эта технология меняет динамику обнаружения мошенничества. Ранее ключевым было выявление признаков манипуляций, теперь критически важно обнаруживать полностью поддельные идентичности».
Синтетические идентификаторы — это комбинации украденных номеров социального обеспечения, имен, адресов и подделанной информации — могут проходить проверки. Эти эволюционировавшие цифровые персоны имитируют легитимное человеческое поведение, усложняя обнаружение и прокладывая путь для скоординированных схем мошенничества, таких как кредитное мошенничество, захват аккаунтов и отмывание денег.
Борьба с мошенничеством с помощью ИИ
Как же организациям бороться с почти незаметным мошенничеством? Фридман предлагает улучшить существующие меры безопасности с помощью возможностей обнаружения генеративного ИИ. «Для противодействия этим угрозам необходимо внедрять многоуровневые стратегии обнаружения, оценивая мошенничество и его исполнителей с разных сторон».
Обнаружение дипфейков на основе ИИ использует алгоритмы для выявления манипулированного контента, оценивая такие факторы, как трансформации лиц и несоответствия освещения. Интеграция биометрических маркеров — таких как ключевые точки лица и голосовые шаблоны — добавляет дополнительную проверку.
Организациям следует внедрять автоматизированные системы проверки личности на основе ИИ и машинного обучения, обеспечивая robustный уровень для обнаружения сложных скоординированных атак на уровне сетевого трафика. Продвинутая нейронная сеть может анализировать тонкие паттерны мошенничества в реальном времени, позволяя осуществлять проактивное вмешательство. Serial Fraud Monitor от AU10TIX агрегирует анонимные данные от различных масштабных учреждений, упрощая выявление сложных схем мошенничества.
Йерушальми подчеркивает, что, хотя генеративный ИИ усиливает как возможности мошенничества, так и его обнаружение, традиционные алгоритмы не следует игнорировать. «Сбалансированный подход, сочетающий машинное обучение, ИИ и основные методы, важен для достижения оптимальных результатов».
Оптимизация предотвращения мошенничества имеет первостепенное значение; клиенты все больше ценят безопасность, но требуют безупречного пользовательского опыта. «Пользователи покидают компании, которые их не устраивают, выбирая альтернативы, которые легко доступны», — предостерегает Йерушальми. «Они быстро теряют терпение, поэтому интеграция защитных технологий в процесс аутентификации должна повышать уровень защиты без ущерба для пользовательского опыта».
Поддержание доверия клиентов
Защита клиентов от мошенничества — это юридическая и этическая обязанность организации, играющая ключевую роль в выживании бизнеса. Эта ответственность включает защиту клиентов от финансовых потерь и содействие укреплению доверия и лояльности. Борьба с хитроумным мошенничеством на глобальном уровне зависит от совместных усилий организаций.
«Организации должны объединить усилия в борьбе с мошенничеством на глобальном уровне, и AU10TIX стремится содействовать доверию в этом начинании», — утверждает Йерушальми. «По мере разработки новых технологий и генеративного ИИ мы продолжаем оставаться надежным партнером в цифровом пространстве».
Рейтинг
