Совет OpenAI: Навигация по вызовам безопасности ИИ и внутренним конфликтам

Отпуск, шмапуск — пока я наслаждаюсь отдыхом за океаном, в OpenAI происходит значительное смятение, которое сложно игнорировать. Более 500 сотрудников OpenAI подписали письмо, угрожая уйти в Microsoft вместе с Сэмом Альтманом, если не будет заменен неприбыльный совет директоров OpenAI, и он не будет вновь назначен генеральным директором.

В свете недавних событий, в минувший понедельник я опубликовал статью о необычном шестичленном совете директоров OpenAI, который имеет полномочия определять момент достижения искусственного общего интеллекта (AGI). Этот совет контролирует коммерческую сторону компании и включает в себя нескольких членов, связанных с движением эффективного альтруизма.

В прошлую пятницу начался хаос, когда совет директоров OpenAI уволил генерального директора Сэма Альтмана и назначил временным гендиректором технического директора Миру Мурату. Грег Брокман, ранее председатель совета, также ушел в отставку. В моем посте на Substack под заголовком «Я провел прошлые выходные, пиша о неприбыльном совете OpenAI — теперь в центре отставки Сэма Альтмана», я рассказал, как миссия совета по приоритетности безопасности ИИ сыграла роль в увольнении Альтмана и отстранении Брокмана.

Затем произошел драматический поворот. После негативной реакции инвесторов, таких как Microsoft, начались переговоры о возвращении Альтмана на пост. Появились фото с ним в пропуске для посетителей на офисе OpenAI, а в социальных сетях зашкалила поддержка от сотрудников с эмодзи сердец.

В неистовом повороте событий генеральный директор Microsoft Сатья Наделла объявил, что Альтман и Брокман возглавят новое исследовательское подразделение по ИИ в Microsoft, с предложениями для любых сотрудников OpenAI, желающих присоединиться. Совет директоров OpenAI еще более усложнил ситуацию, заменив Мурату на Эметта Шира, бывшего гендиректора Twitch, в качестве нового временного гендиректора.

Появились сообщения, что многие сотрудники OpenAI не спали, решая, как отреагировать на увольнение Альтмана, выражая недовольство отсутствием коммуникации вокруг этого решения. Сообщения вроде «OpenAI ничего не значит без своих людей» появлялись на X, указывая на сильную готовность сотрудников перейти в Microsoft, что было подтверждено гарантированными позициями в новом подразделении.

Иронично, что, несмотря на кажущуюся принципиальность совета в удалении Альтмана во имя безопасности ИИ, это решение привело к значительному смятению, потенциально подрывающему его миссию и подрывающему доверие сотрудников. Отсутствие ясности оставляет OpenAI более уязвимой, что может затруднить её цель создания безопасного AGI в долгосрочной перспективе.

Главный ученый Илья Сутскевер выразил сожаление в посте на X, отметив: «Я глубоко сожалею о своей роли в действиях совета. Я никогда не хотел причинить вред OpenAI. Я люблю всё, что мы построили вместе, и сделаю всё возможное, чтобы объединить компанию».

В конечном счете, эти события показывают, что человеческие ошибки могут подрывать амбициозные цели. Хотя технологии могут продолжать развиваться, необходимость в сильном управлении и коммуникации внутри OpenAI никогда не была столь очевидной. Сейчас компании, возможно, предстоит столкнуться с кризисом, что сигнализирует о необходимости серьезных изменений в будущем.