Теневое ИИ: Растущая Проблема для Бизнеса
Рост теневого ИИ создает серьезные проблемы для организаций любого размера из-за несогласованного использования генеративного ИИ вне контроля ИТ. Согласно опросу Salesforce среди 14,000 работников, 28% сотрудников используют генеративный ИИ на работе, и более 50% делают это без согласия работодателя. Эта тенденция, вероятно, будет нарастать по мере того, как все больше работников осознают преимущества продуктивности от контента, созданного ИИ.
Возможности для ИТ-Лидеров
Распространение теневого ИИ также предоставляет ИТ-руководителям уникальную возможность улучшить свои стратегии управления. Важно найти баланс между поддержкой бизнес-инициатив и управлением рисками — постоянная задача для CIO. По мере того как требования к ИТ-управлению меняются в соответствии с потребностями бизнеса и профилем рисков, критически важно выровнять стратегические цели с эффективным управлением рисками в условиях стремительной цифровой трансформации.
Почему Важно Управлять Генеративным ИИ
Работа с теневым ИИ сложнее, чем с теневыми ИТ, где сотрудники сознательно подписываются на несанкционированные услуги. Риски теневого ИИ усугубляются его доступностью: сотрудники могут использовать инструменты генеративного ИИ без финансовых преград. Неправильное использование таких сервисов может привести к серьезным проблемам управления. Например, сотрудники могут случайно вводить конфиденциальную корпоративную интеллектуальную собственность или персонально идентификационную информацию в публичные системы генеративного ИИ, что ставит под угрозу безопасность данных. Запрашивая стратегическую информацию у этих сервисов, сотрудники рискуют раскрыть конфиденциальные данные. Использование конфиденциальной информации также может привести к юридическим последствиям и вопросам авторских прав.
Несмотря на признание рисков, многие организации не имеют комплексных политик для управления генеративным ИИ. Опрос KPMG показал, что 69% компаний все еще находятся на начальной стадии оценки рисков генеративного ИИ и разработки стратегий их минимизации. Полный запрет на генеративный ИИ может привести к скрытому использованию, увеличивая риски, такие как утечки данных, нарушения соблюдения норм и репутационные потери. Поскольку 44% ИТ-решений находятся на предварительных этапах внедрения генеративного ИИ, ИТ-отделы должны сотрудничать с другими бизнес-подразделениями для создания единого подхода.
Стратегия Коллаборативного Управления
ИТ-руководители должны сотрудничать с юридическими, комплаенс- и рисковыми командами для создания централизованной стратегии генеративного ИИ. Это включает в себя определение политики допустимого использования, четкую коммуникацию с сотрудниками и внедрение программ обучения, которые способствуют ответственному использованию.
Создание Рамок Управления ИИ
Организации должны разработать протоколы, направленные на защиту конфиденциальных данных, при этом согласуясь с существующими стратегиями ИТ-управления. Рассмотрите следующие ключевые шаги:
1. Установите Политики Управления ИИ: Разработайте четкие рекомендации по использованию ИИ, определите одобренные системы и сообщите последствия использования несанкционированных приложений.
2. Обеспечьте Одобренные Инструменты: Оснастите сотрудников санкционированными приложениями ИИ, чтобы минимизировать соблазн использовать неразрешенные инструменты.
3. Формализуйте Обучение: Обучите сотрудников этичному использованию одобренных сервисов генеративного ИИ и рискам взаимодействия с несанкционированными системами.
4. Аудит и Мониторинг Использования: Проводите регулярные аудиты и проверки соблюдения, используя программное обеспечение для выявления неразрешенной активности ИИ.
5. Стимулируйте Прозрачность и Сообщения: Создайте среду, в которой сотрудники могут без страха сообщать о использовании несанкционированных инструментов ИИ, что позволит быстро реагировать на инциденты.
6. Часто Инициируйте Коммуникацию: По мере развития инструментов генеративного ИИ держите ваши политики актуальными и регулярно информируйте сотрудников об изменениях.
Ваша Политика Страхования по Генеративному ИИ
Эффективное управление работает как страховая полис — лучше иметь его, чем столкнуться с последствиями пренебрежения. Генеративный ИИ отличается от традиционного ИИ своей простой адаптацией, что может привести к управленческим трудностям. Чтобы обеспечить ответственное использование, компаниям следует приоритизировать управление данными, идентифицируя чувствительную информацию, которая должна оставаться в защищенных системах генеративного ИИ.
Генеративный ИИ символизирует новую фазу в развивающемся ландшафте ИИ, и надежные партнеры могут помочь ориентироваться в его сложностях. Dell ведет путь, разрабатывая бизнес-кейсы, которые позволяют клиентам безопасно исследовать варианты генеративного ИИ прямо из их дата-центров, используя открытые LLM для сохранения контроля над развертыванием систем.
В конечном счете, интеграция ИИ с вашей инфраструктурой данных может стать вашей наиболее эффективной стратегией управления.
Для получения дополнительной информации посетите dell.com/ai.
Рейтинг
