Переход в руководстве OpenAI: помешает ли приоритизация безопасности ИИ росту компании?

Хотя причины недавнего увольнения генерального директора OpenAI Сэма Альтмана остаются во многом неясными, теперь известно, что это решение возглавил соучредитель Илья Сутскевер, который получил поддержку совета директоров. В заявлении совета упоминались опасения по поводу коммуникации Альтмана, описываемой как «не всегда откровенная». Однако конкретные детали относительно времени и обоснования их решения остаются неясными.

Ясно одно: Альтман и соучредитель Грег Брокман сыграли ключевую роль в росте бизнеса OpenAI, активно привлекая финансирование и улучшая технологические возможности компании. В то же время Сутскевер сосредоточился на инжиниринговых аспектах и выражал серьезные опасения по поводу последствий генеративной ИИ-технологии OpenAI, особенно касающихся потенциальной массовой утраты рабочих мест из-за искусственного общего интеллекта (AGI).

В ходе событий стало очевидно, что Сутскевер возглавил фракцию внутри OpenAI, которая все больше беспокоилась о усилиях Альтмана по расширению. Это привело к разочарованию из-за недавнего увеличения числа пользователей после Дня разработчиков OpenAI, что создало нагрузку на серверы и вызвало опасения по поводу соответствия Альтмана миссии OpenAI как некоммерческой организации.

Если фракция Сутскевера добьется остановки роста и перенаправит внимание на безопасность, это может иметь серьезные последствия для кадрового состава, нанятого на высокие зарплаты и с высокими ожиданиями. Заметим, что трое старших исследователей уволились после новостей об увольнении Альтмана.

После увольнения Альтмана на общем собрании Сутскевер выразил обеспокоенность, которая стала причиной крайних мер совета. Он прокомментировал обвинения в перевороте, сказав: «Это совет исполнил свой долг по отношению к миссии некоммерческой организации». Когда его спросили о целесообразности методов, он признал, что в ситуации есть «не идеальные» элементы.

Члены совета директоров OpenAI, включая основателя Quora Адама Д’Анджело, технологического предпринимателя Ташу МаКоли и Хелен Тонер из Джорджтауна, якобы согласились с Сутскевером в оппозиции Альтману и Брокману. Уникальная миссия совета — гарантировать безопасное развитие AGI, которое принесет пользу человечеству — привлекла к себе повышенное внимание и вызвала споры.

С течением времени наблюдатели отметили, что напряжение нарастало из-за попыток Альтмана и Брокмана обеспечить высокую оценку компании в 90 миллиардов долларов на фоне необоснованных опасений по поводу недавних технологических прорывов. В это время Альтман подтвердил, что OpenAI разрабатывает GPT-5, следующую итерацию своей модели ИИ. На конференции APEC он подчеркнул недавние достижения, отметив: «Участвовать в этом — профессиональная честь всей моей жизни».

После Дня разработчиков OpenAI ученый-данных Джереми Ховард предположил, что мероприятие подчеркнуло существующие опасения по поводу безопасности, ставшие критической точкой для Сутскевера. Критики указали на потенциальные проблемы конфиденциальности, связанные с новым GPT Builder.

С другой стороны, множество технологических лидеров, включая бывшего гендиректора Google Эрика Шмидта, высказали свою поддержку Альтману, выразив опасения, что совет директоров OpenAI может ставить под угрозу репутацию компании, независимо от мотивов его увольнения. Исследователь Нирит Вайс-Блатт отметил интересные моменты из комментариев Сутскевера в начале этого года, подчеркивая, что ИИ может потенциально автоматизировать все рабочие места, что оспаривает подход, ориентированный на максимизацию прибыли, обычно присущий технологическим компаниям.

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles