Гонка инноваций в области генеративного ИИ раскрывает уязвимости в безопасности, сообщают IBM и AWS.

Что потребуется для обеспечения безопасности генеративного ИИ?

Недавнее исследование компании IBM и Amazon Web Services (AWS) показывает, что не существует простого решения для обеспечения безопасности генеративного ИИ (ген ИИ). Согласно опросу IBM Institute for Business Value среди ведущих руководителей США, отчет подчеркивает критическую важность безопасности в инициативе по ИИ. Впечатляющие 82% лидеров уровня C-suite согласны с тем, что безопасный и надежный ИИ жизненно важен для успеха бизнеса.

Однако существует резкий контраст между намерениями и действиями: в настоящее время организации защищают лишь 24% своих проектов в области генеративного ИИ. Эта озабоченность безопасностью также отражена в отчете PwC, который указывает, что 77% CEO беспокоятся о рисках кибербезопасности ИИ.

Для решения этих проблем IBM сотрудничает с AWS для усиления безопасности ген ИИ. Сегодня они объявили о запуске IBM X-Force Red Testing Service для ИИ, направленного на совершенствование мер безопасности в области генеративного ИИ.

Навигация в дилемме инновации и безопасности

Хотя обеспечение безопасности технологий кажется основополагающим, многие организации ставят инновации выше безопасности. Отчет подчеркивает, что 69% организаций сначала уделяют внимание инновациям, часто забывая о комплексных мерах безопасности. Тимпл Ахлувалия, глобальный старший партнер по кибербезопасности в IBM Consulting, отмечает, что руководители находятся под давлением необходимости инноваций в генеративном ИИ, в результате чего безопасность становится второстепенной задачей.

«Как и в ранние дни облачных вычислений», отмечает Ахлувалия, «многие спешат внедрять генеративный ИИ без надлежащего планирования безопасности, что в конечном итоге компрометирует защиту».

Установление рамок для эффективной безопасности ИИ

Для формирования доверия к генеративному ИИ организации должны внедрить надежное управление. Это включает в себя создание политик, процессов и контролей, соответствующих бизнес-целям — 81% руководителей считают, что новые модели управления необходимы для обеспечения безопасности генеративного ИИ.

После установки рамок управления организации могут разрабатывать стратегии защиты всего ИИ-пайплайна. Это требует сотрудничества между командами безопасности, технологий и бизнеса, а также использования опыта технологических партнеров для разработки стратегий, обучения, обоснования затрат и навигации в отношении соблюдения норм.

IBM X-Force Red Testing Service для ИИ

Помимо управления, проверка и тестирование имеют ключевое значение для обеспечения безопасности. IBM X-Force Red Testing Service для ИИ — это первая тестовая служба IBM, созданная специально для ИИ. Этот сервис объединяет разнообразную команду экспертов в области пентестинга, ИИ-систем и науки о данных, используя знания из IBM Research и Adversarial Robustness Toolbox (ART).

Термин «red teaming» относится к проактивному подходу к безопасности, при котором используются враждебные тактики для выявления уязвимостей. Крис Томпсон, глобальный руководитель X-Force Red в IBM, объясняет, что акцент сместился на тестирование безопасности моделей ИИ, хотя традиционные тактики red team по скрытности и уклонению были недостаточно изучены.

«Природа атак на приложения ген ИИ аналогична традиционным угрозам безопасности приложений, но с уникальными изменениями и расширенными поверхностями для атак», отмечает Томпсон.

С приближением 2024 года IBM наблюдает конвергенцию стратегий, напоминающих истинное red teaming. Их подход охватывает четыре ключевые области: платформы ИИ, ML-пайплайн для настройки и обучения моделей, производственную среду для приложений ген ИИ и сами приложения.

«Вместе с нашими традиционными усилиями в области red teaming мы стремимся выявить упущенные возможности для обнаружения и повысить скорость выявления потенциальных угроз, нацеленных на эти инновационные решения ИИ», заключает Томпсон.