Искусственный интеллект (ИИ) кардинально изменил технологический ландшафт, особенно после публичного запуска ChatGPT. Тем не менее, быстрое развитие ИИ вызывает серьезные опасения. Ведущие учреждения, такие как исследовательская лаборатория ИИ Anthropic, предупреждают о потенциально разрушительных возможностях ИИ, особенно на фоне растущей конкуренции с такими системами, как ChatGPT. Ключевые вопросы включают потерю миллионов рабочих мест, нарушения конфиденциальности данных и распространение дезинформации — все это привлекло внимание мировых заинтересованных сторон, особенно государственных структур.
В США Конгресс усилил внимание к регулированию ИИ, предложив различные законопроекты, направленные на повышение прозрачности и разработку риск-ориентированной структуры и др. В октябре администрация Байдена-Харрис издала указ о безопасном, защищенном и надежном развитии и использовании искусственного интеллекта. Этот указ включает рекомендации по нескольким направлениям, включая кибербезопасность, конфиденциальность, предвзятость, гражданские права, алгоритмическую дискриминацию, образование, права работников и исследования. Кроме того, в рамках G7 администрация недавно представила кодекс поведения для ИИ.
Аналогично, Европейский Союз делает шаги в направлении своего предлагаемого законодательства об ИИ — Акта о ИИ ЕС. Эта регуляция нацелена на высокорисковые инструменты ИИ, которые могут нарушать индивидуальные права, особенно в таких секторах, как авиация. Акт акцентирует внимание на обязательных контроля для высокорискового ИИ, таких как надежность, конфиденциальность, безопасность и прозрачность. Системы, представляющие неприемлемый риск, будут запрещены на рынке.
Хотя обсуждения по поводу роли правительства в регулировании ИИ продолжаются, эффективное управление также приносит пользу бизнесу. Найти баланс между инновациями и регулированием поможет защитить организации от ненужных рисков и дать им конкурентное преимущество.
Роль бизнеса в управлении ИИ
Компании несут ответственность за снижение рисков, связанных с технологиями ИИ. Зависимость генеративного ИИ от огромных объемов данных вызывает важные вопросы конфиденциальности. Без надлежащего управления доверие и лояльность потребителей могут упасть, поскольку клиенты беспокоятся о том, как используется их конфиденциальная информация.
Более того, компании должны быть осведомлены о потенциальных обязательствах, связанных с генеративным ИИ. Если материалы, созданные ИИ, напоминают существующие работы, бизнес может столкнуться с исками о нарушении авторских прав, подвергая себя юридическим и финансовым последствиям.
Важно понимать, что результаты работы ИИ могут воспроизводить общественные предвзятости, внедряя их в системы принятия решений, которые влияют на распределение ресурсов и видимость в медиа. Эффективное управление предполагает создание надежных процессов для минимизации рисков предвзятости. Это включает привлечение заинтересованных сторон для пересмотра параметров и данных, содействие формированию разнообразной рабочей силы и уточнение наборов данных для генерирования воспринимаемых как справедливые результатов.
В дальнейшем установка строгого управления необходима для защиты индивидуальных прав и содействия развитию трансформирующих ИИ-технологий.
Рамки для регуляторной практики
Внедрение должной проверки может помочь снизить риски, но создание надежной регуляторной структуры также является важной задачей. Компании должны сосредоточиться на следующих ключевых аспектах:
Выявление и устранение известных рисков
Хотя мнения по поводу наиболее серьезных угроз, исходящих от неконтролируемого ИИ, различаются, существует согласие по поводу различных проблем, таких как утрата рабочих мест, нарушения конфиденциальности, защита данных, социальное неравенство и вопросы интеллектуальной собственности. Бизнес должен оценить конкретные риски, актуальные для их деятельности. Достигнув консенсуса по этим рискам, организации могут создать рекомендации для их проактивного разрешения и управления ими.
Например, моя компания Wipro разработала четырехопорную структуру, нацеленную на создание ответственного ИИ-будущего, сосредоточив внимание на индивидуальных, социальных, технических и экологических аспектах. Эта структура служит одним из подходов для компаний, чтобы установить надежные рекомендации для взаимодействия с системами ИИ.
Улучшение практик управления
Организации, которые используют ИИ, должны ставить управление в приоритет, чтобы гарантировать подотчетность и прозрачность на протяжении всего жизненного цикла ИИ. Реализация структуры управления помогает документировать процессы обучения моделей, снижая риски, связанные с ненадежностью моделей, введением предвзятости и изменениями в отношениях между переменными.
Системы ИИ по своей природе являются социотехническими и состоят из данных, алгоритмов и участия человека. Поэтому важно интегрировать как технологические, так и социальные аспекты в регуляторные рамки. Сотрудничество между бизнесом, наукой, государством и обществом необходимо, чтобы предотвратить развитие решений ИИ однородными группами, что может привести к непредвиденным проблемам.
Рейтинг
