С увеличением возможностей продвинутого искусственного интеллекта (ИИ) возникает и большая сложность, особенно для главных специалистов по информационной безопасности (CISO), которые внедряют генеративный ИИ (Gen AI). Этот технологический бум критически важен для поставщиков кибербезопасности, стремящихся минимизировать риски в нарастающей борьбе с ИИ. Тем не менее, противники становятся всё более искусными в использовании ИИ вместе с тактиками социального манипулирования, что значительно влияет на ведущие компании в этом году.
Для анализа перспектив 2024 года одно из медиа провело виртуальную дискуссию с 16 лидерами в области кибербезопасности из 13 компаний. Консенсус был однозначен: укрепление сотрудничества между специалистами по ИИ и кибербезопасности необходимо для достижения будущего успеха.
ИИ требует человеческого понимания для эффективной борьбы с киберугрозами. Исследования MITRE по управляемому обнаружению и реагированию (MDR) предоставили конкретные доказательства того, что интеграция человеческого интеллекта с ИИ может выявлять и нейтрализовать утечки до их эскалации. Майкл Шервуд, главный директор по инновациям и технологиям города Лас-Вегас, акцентировал на этом внимание в недавнем интервью.
Прогнозы о роли Gen AI в кибербезопасности
Питер Сильва из Ericom, входящей в состав подразделения кибербезопасности Cradlepoint, отметил, что Gen AI может улучшить распознавание шаблонов для определения векторов атак и новых уязвимостей. Однако он предостерег, что ИИ также усложняет обнаружение, поскольку системы могут испытывать трудности в различении фишинговых атак, созданных человеком и ИИ.
Элия Зайцев, технический директор CrowdStrike, указал, что в 2024 году киберпреступники могут всё чаще нацеливаться на системы ИИ через уязвимости в санкционированных использованиях ИИ и "слепые зоны" от несанкционированного использования ИИ-инструментов сотрудниками. Он призвал компании пересмотреть свои внутренние реализации ИИ и разработать надежные рекомендации для снижения рисков.
Роб Гурзиев, CEO CyCognito, выразил мнение, что хотя Gen AI положительно скажется на безопасности, он также может вызвать самодовольство в командах безопасности. Он предостерег от чрезмерной зависимости от ИИ, что может создать пробелы в операциях безопасности.
Говард Тинг, CEO Cyberhaven, сообщил, что исследование показало, что 4,7% сотрудников вводили конфиденциальные данные в ИИ-инструменты, такие как ChatGPT. Он считает, что достижения ИИ позволят командам безопасности со временем укрепить свои оборонительные линии.
Джон Мореllo, соучредитель и технический директор Gutsy, отметил, что Gen AI имеет потенциал значительно улучшить управление большими объемами событий данных в командах безопасности, преобразуя устаревшие методы в удобные для пользователя форматы.
Джейсон Урсо, технический директор Honeywell Connected Enterprise, предсказал, что Gen AI позволит даже неопытным хакерам осуществлять сложные атаки, что изменит ландшафт кибербезопасности на противостояние ИИ против ИИ.
Сринивас Муккамала, главный продуктовый директор Ivanti, подчеркнул растущую тревогу сотрудников по поводу безопасности работы из-за ИИ. Он акцентировал необходимость прозрачности со стороны руководителей относительно стратегий интеграции ИИ для удержания талантов, так как эффективное использование ИИ все еще требует человеческого контроля.
Муккамала также предсказал увеличение сложных атак социального манипулирования из-за более совершенных инструментов ИИ, которые способствуют созданию более правдоподобных фишинговых попыток.
Мерритт Беер, полевой CISO Lacework, прогнозирует, что рабочая среда будет преобразована, где Gen AI будет помогать в автоматизации задач, позволяя людям сосредоточиться на стратегическом мышлении и креативности.
Анкур Шах, старший вице-президент Prisma Cloud в Palo Alto Networks, подчеркивает, что командам безопасности необходимо управлять стремительным темпом разработки приложений, который ИИ, как ожидается, значительно ускорит. Он предостерег, что без надежных данных о безопасности эффективность ИИ в предотвращении рисков может снизиться.
Мэтт Кранинг, технический директор Cortex в Palo Alto Networks, заявил, что Gen AI упростит взаимодействие с данными для аналитиков безопасности, облегчая анализ и реакцию на угрозы.
Кристоф Ван де Вейер, CEO Telesign, отметил, что в 2023 году произошел рекордный уровень фишинга, усугубленный тем, что преступники использовали Gen AI для создания убедительных сообщений. Он считает, что организациям необходимо улучшать свои защитные механизмы и использовать ИИ для повышения эффективности обнаружения мошенничества.
Роб Робинсон, руководитель Telstra Purple EMEA, отметил, что растущее количество данных для мониторинга безопасности потребует изменения навыков CISO, и ИИ станет ключевым решением для решения проблем безопасности.
Винит Арора, технический директор WinWire, подтвердил, что Gen AI значительно улучшит автоматизацию кибербезопасности, позволяя специалистам сосредоточиться на сложных проблемах, оставляя при этом возможность для злоумышленников использовать его потенциал.
Клаудиор Ноар Куэльо, главный директор по ИИ, и Санжай Калра, вице-президент по управлению продуктами в Zscaler, предсказали, что Gen AI революционизирует усилия по соблюдению норм, автоматизируя ранее времязатратные процессы.
Клинт Диксон, директор по информации глобальной логистической организации, сформулировал будущее кибербезопасности как существенно зависящее от ИИ из-за стремительного роста и увеличения сложности данных.
В заключение, интеграция Gen AI в кибербезопасность имеет огромный потенциал для усиления защиты и упрощения операций, но также создает новые вызовы и риски, с которыми организациям необходимо осторожно справляться в 2024 году.
Рейтинг
