Кибербезопасность: Адаптация к угрозам генеративного ИИ
Кибератакующие быстро меняют свои методы, что делает необходимым для поставщиков кибербезопасности укрепление своих систем защиты. С ростом использования ИИ в бизнесе увеличивается потребность в инновационных решениях безопасности на основе генеративного ИИ. Этот фактор значительно повлиял на оценку Menlo Ventures в восьми ключевых областях, где генеративный ИИ оказывает существенное влияние.
Новые угрозы: готовы ли вы?
Недавно Рама Секхар и Фейза Хаскараман из Menlo Ventures обсудили важность устранения пробелов в безопасности ИИ. Секхар, новый партнер, сосредоточенный на кибербезопасности и ИИ, и Хаскараман, ведущий специалист по кибербезопасности и SaaS, подчеркнули, что для полного раскрытия потенциала ИИ предприятиям необходим новый технологический стек, который будет придавать приоритет безопасности на каждом этапе, от цепочек поставок программного обеспечения до разработки моделей.
Предполагаемые области воздействия генеративного ИИ
Секхар и Хаскараман выделили восемь факторов, которые значительно повлияют на ландшафт безопасности:
1. Управление рисками поставщиков и автоматизация соблюдения стандартов: Управление безопасностью сторонних приложений становится жизненно важным с возрастанием интеграции организаций с внешними поставщиками. Современные процессы часто осуществляются вручную и подвержены ошибкам, что делает их идеальными кандидатами для автоматизации с помощью генеративного ИИ. Например, AI-ассистент Dialect упрощает заполнение анкет безопасности для эффективных и точных ответов.
2. Улучшенное обучение безопасности: Традиционное обучение по безопасности часто оказывается недостаточным, что приводит к утечкам, несмотря на значительные инвестиции. Генеративный ИИ предлагает более увлекательные и реалистичные сценарии обучения сотрудников. Инструменты, такие как Immersive Labs, моделируют атаки, тогда как соучастники по безопасности направляют сотрудников через интерактивное обучение внутри платформ, как Slack.
3. Пентестинг: С учетом использования генеративного ИИ кибератакующими, пентестинг должен адаптироваться. Быстрое моделирование множества атак с помощью автоматизации ИИ может усилить стратегии защиты, включая такие задачи, как поиск в базах данных угроз и оценка уязвимостей, а также упрощение отчетности.
4. Обнаружение и предотвращение аномалий: Генеративный ИИ улучшает мониторинг журналов событий и обнаружение необычной активности, которая может свидетельствовать о попытках вторжения. Эта технология может эффективно масштабироваться, обеспечивая дополнительные уровни безопасности на различных конечных точках, сетях, API и в хранилищах данных.
5. Обнаружение и верификация синтетического контента: Киберпреступники используют генеративный ИИ для создания фальшивых цифровых идентификаторов, что значительно влияет на бизнес. FTC оценивает, что стоимость одного события мошенничества превышает $15,000. Компании, такие как Deduce и DeepTrust, решают эту проблему с помощью передовых методов верификации идентичности, использующих ИИ для различения легитимных и синтетических идентификаторов.
6. Проверка кода: Подход "сдвиг влево" в разработке программного обеспечения фокусируется на раннем тестировании для повышения качества и безопасности. Однако многие автоматизированные инструменты безопасности неэффективны. Стартапы, такие как Semgrep, внедряют инновации в этой области, предлагая настраиваемые правила, которые упрощают обнаружение уязвимостей и исправления.
7. Управление зависимостями: Значительное количество кодовой базы использует компоненты с открытым исходным кодом, часто от различных третьих сторон. Ожидаются улучшения в этой области благодаря генеративному ИИ, особенно в отношении отслеживания зависимостей и управления патчами. Компании, такие как Socket, возглавляют усилия по обнаружению и минимизации рисков цепочки поставок в коде с открытым исходным кодом.
8. Автоматизация защиты и возможности SOAR: Генеративный ИИ может оптимизировать операции в центрах операций безопасности (SOC), улучшая точность алертов и снижая количество ложных срабатываний, что затрудняет работу аналитиков. Автоматизируя рутинные задачи, специалисты SOC могут сосредоточиться на более критических и сложных проектах.
Подготовка к будущему безопасности ИИ
Для интеграции генеративного ИИ на уровне предприятий организациям необходимо сначала решить существующие проблемы безопасности, связанные с его внедрением. Восемь выделенных областей подчеркивают необходимость для бизнеса улучшить свою готовность к широкой стратегии ИИ. Используя генеративный ИИ, организации могут избавиться от рутинных задач, позволяя командам безопасности сосредоточиться на более сложных киберугрозах и укрепить защиту от нарастающих атак с использованием ИИ.
Рейтинг
