Недавнее объявление OpenAI наконец-то прояснило неопределенность, окружавшую компанию в течение последних пяти дней: Сэм Альтман восстановлен на посту генерального директора, а также назначены три первоначальных члена правления, с возможностью дальнейших назначений.
Однако новые детали событий, предшествовавших этому upheaval, указывают на необходимость OpenAI решить проблемы доверия, с которыми Альтман может столкнуться из-за своих недавних действий. Кроме того, остается неясным, как компания планирует справиться с продолжающимися вызовами в области управления, включая структуру правления и ответственность, которые уже воспринимаются как запутанные и противоречивые.
Для руководителей предприятий, наблюдающих за этой ситуацией, важно понять, что произошло, чтобы оценить доверие к OpenAI в будущем. Эта ситуация может стать поворотным моментом к более агрессивному и продуктово-ориентированному подходу. В то время как языковые модели OpenAI, такие как ChatGPT и GPT-4, вероятно, сохранят свою популярность среди разработчиков в виде API для разнообразных приложений, репутация компании как надежного поставщика комплексных AI-решений для предприятий может пошатнуться.
Одним из значительных факторов, влияющих на доверие внутри компании, стало критическое отношение Альтмана к работе члена правления Хелен Тонер в области безопасности ИИ. В октябре Альтман раскритиковал статью Тонер, обсуждающую процессы принятия решений в OpenAI по сравнению с конкурентом Anthropic. В то время как OpenAI выпустила свою языковую модель, Anthropic отложила запуск из-за соображений безопасности. Согласно исследованию, это стратегическое решение Anthropic представляло собой приверженность безопасности ИИ, в отличие от более быстрого подхода OpenAI.
После жалоб Альтмана на статью Тонер, он сообщил коллегам, что эта критика необходима для безопасности компании, особенно с учетом продолжающихся расследований FTC по поводу использования данных OpenAI. Тонер, в свою очередь, подчеркнула академический характер своей работы, что привело к обсуждениям среди старших руководителей OpenAI о ее возможном исключении из правления. В конечном итоге соучредитель Илья Сутскевер, обеспокоенный рисками ИИ, поддержал увольнение Альтмана за недостаточную искренность с правлением.
Напряжение между Альтманом и Тонер освободило вопросы совместимости с основной целью компании — разработкой безопасного искусственного общего интеллекта (AGI) на благо человечества, а не инвесторов.
В решении, принятоом прошлой ночью о восстановлении Альтмана, Тонер и еще один член правления Таша Макаули решили уйти в поисках нового начала, хотя и считали свои действия оправданными. Правление сохранило Адама Д’Анджело, еще одного члена, который поддержал увольнение Альтмана, для облегчения переговоров с временным генеральным директором Эмметом Широм и новыми членами правления. Новое правление, в состав которого входят Брет Тейлор и Лоуренс Саммерс, обладает сильной репутацией и опытом, обещая направить компанию к миссии, ориентированной на рост.
Этот переход в руководстве вызывает вопросы о будущем OpenAI. Состав правления предполагает трансформацию в сильную продуктовую компанию, способную решить предыдущие проблемы управления. Тем не менее, уход членов, выступающих за эффективный альтруизм, указывает на критический поворот, необходимый для жизнеспособности OpenAI. Яан Таллинн, активный сторонник эффективного альтруизма, подчеркивал риски, связанные с полаганием на альтруистское управление в контексте кризисов OpenAI.
Впереди компании будет важно установить авторитетное и разнообразное правление, чтобы поддерживать курс на успех. Приверженность справедливости и этическим аспектам в разработке ИИ является ключевым.
В заключение, OpenAI на данном этапе, похоже, нацелена на более устоявшееся будущее, ориентированное на прибыль и продукты. Цель состоит в том, чтобы обслуживать сотни миллионов пользователей с универсальными языковыми моделями для разнообразных задач. Однако неясно, сможет ли OpenAI завоевать доверие и наладить управление, необходимое для разработки точных, безопасных и беспристрастных приложений, требуемых предприятиями. Возможно, другим игрокам придется заполнить этот пробел.
Рейтинг
