Является ли амбициозный план OpenAI по интеграции демократии в технологии ИИ чем-то большим, чем просто пиар?

На прошлой неделе представитель OpenAI сообщил мне о запуске новой команды "Коллективного Согласования". Их задача — разработать "процессы прототипирования", которые учитывают общественное мнение для формирования поведения ИИ моделей, стремясь к демократическому управлению ИИ. Эта инициатива основывается на работе десяти получателей грантовой программы OpenAI "Демократические Вклады в ИИ".

Не могу не усмехнуться над ироничностью ситуации. OpenAI провозглашает высокие идеалы "создания безопасного AGI, который приносит пользу всему человечеству", в то время как сталкивается с практическими реалиями продаж API, расширением магазинов GPT и разрешением судебных исков по авторскому праву. Задача достижения общественного консенсуса по вопросам управления ИИ — одна из самых сложных для человечества.

Настало ли время для ИИ-агентов? Американская демократия находится под беспрецедентным давлением, и системы ИИ находятся в центре озабоченности по поводу дипфейков и дезинформации, особенно на фоне грядущих выборов 2024 года. Как может субъективное понятие, такое как общественное мнение, повлиять на правила управления ИИ, особенно от компании, которая сейчас доминирует на коммерческом рынке ИИ?

Тем не менее, существование команды Коллективного Согласования из OpenAI дает надежду. Их цель — создать более демократичный ИИ, руководствуясь человеческим мнением, что, безусловно, важно. Однако возникает вопрос, является ли эта инициатива искренней или просто маневром по связям с общественностью в ответ на требования о большей ответственности.

Взгляды команды Коллективного Согласования

Чтобы глубже понять ситуацию, я поговорил с двумя членами команды: Тайной Элонду, исследователем, сосредоточившимся на социальных последствиях технологий, и Тедди Ли, менеджером продукта с опытом ответственной маркировки данных. Они планируют расширить свою команду, добавив инженера-исследователя и ученого для тесного сотрудничества с командой Человеческих Данных OpenAI, которая создает инфраструктуру для сбора человеческого мнения о моделях ИИ.

Когда я спросил Элонду о проблемах формулирования демократических процессов для управления ИИ, она отметила, что многие считают это "очень амбициозной задачей". "Демократия сама по себе сложна и запутанна," — объяснила она. "Она требует постоянных переговоров о том, как она функционирует."

Ли подчеркнул сложность интеграции демократии в ИИ-системы на фоне социотехнических реалий. "Цель нашей грантовой программы — исследовать, что делают другие инноваторы в этой области," — отметил он. "Это впечатляет, и при этом есть много легкодоступных идей и инсайтов."

Прогресс грантовой программы

Согласно недавнему посту в блоге OpenAI, грантовая программа "Демократические Вклады в ИИ" выделила $100,000 десяти разнообразным командам из почти 1,000 заявок. Эти команды разрабатывают и тестируют демократические методы для установления управления ИИ. Они сталкиваются с проблемами, такими как вовлечение различных участников, обеспечение репрезентативных результатов и содействие прозрачности.

Каждая команда подходила к этим вопросам с инновационными решениями, включая платформы для краудсорсингового аудита моделей ИИ и уникальные интерфейсы видеоделиберации. Однако они быстро столкнулись с препятствиями; общественное мнение может быстро меняться, и достичь согласия среди поляризованных групп сложно.

Несмотря на эти вызовы, команда Коллективного Согласования OpenAI остается преданной своему делу. Они консультируются с экспертами в области социальных наук, особенно с теми, кто участвует в гражданских ассамблеях — случайно выбранных группах, обсуждающих важные общественные вопросы.

Обязательство к демократическим процессам

Ли заметил: "Мы не знаем, что не знаем." Получатели грантов представляют различные области, внося в свои проекты энтузиазм и креативность. "Нам нужно согласовать этот энтузиазм с нашей технологией," — сказал он.

Будут ли цели команды достижимы? "Это похоже на саму демократию," — объяснил Ли. "Это непрерывный процесс. По мере того как общественные взгляды эволюционируют и взаимодействие с этими моделями меняется, изменится и наша работа."

Элонду поддержала эту мысль, добавив: "Мы определенно приложим все усилия."

Независимо от того, воспринимается ли это как PR-инициатива или нет, любые шаги к улучшению демократических процессов в принятии решений по ИИ заслуживают похвалы, особенно в условиях нестабильности. Поэтому, OpenAI, я приветствую ваши усилия.