Согласно OpenAI, его некоммерческий совет директоров будет определять момент, когда компания достигнет «искусственного общего интеллекта» (AGI), который определяется как высокоавтономная система, превосходящая человеческие результаты в большинстве экономически ценных задач. Поскольку его прибыльная дочерняя компания юридически обязана поддерживать миссию некоммерческой организации, после объявления о достижении AGI технологии OpenAI больше не будут подчиняться лицензиям на интеллектуальную собственность или коммерческим соглашениям с Microsoft, которые действуют только для систем до AGI.
Концепция AGI не имеет универсально принятого определения, что вызывает вопросы о последствиях решения, принимаемого всего шестью людьми — о том, что оно означает для OpenAI и широкой аудитории, а также о потенциальном влиянии на Microsoft, крупнейшего инвестора компании.
Адвокат разработчиков OpenAI Логан Килпатрick прокомментировал эту тему в недавнем обсуждении на X, отвечая на утверждения президента Microsoft Брэда Смита о том, что статус OpenAI как некоммерческой организации повышает его авторитет по сравнению с Meta, которая принадлежит акционерам. Это заявление было сделано на фоне сообщений о том, что OpenAI стремится к оценке в 90 миллиардов долларов за существующие акции.
Смит отметил: «Meta принадлежит акционерам. OpenAI принадлежит некоммерческой организации. Кому бы вы доверяли свою технологию больше?»
Килпатрick сослался на информацию с сайта OpenAI, описывающую его структуру некоммерческой/ограниченной прибыли. Как указано, прибыльная дочерняя компания OpenAI Global, LLC «полностью контролируется» некоммерческой организацией и может получать прибыль, но должна соответствовать миссии некоммерческой организации.
Несмотря на это, CEO OpenAI Сэм Альтман выразил генеральному директору Microsoft Сатья Наделле, что он рад их партнерству в разработке AGI. Кроме того, в интервью Financial Times Альтман отметил, что их сотрудничество «работает очень хорошо» и ожидает дальнейших инвестиций от Microsoft, подчеркивая значительные текущие вычислительные потребности для разработки AGI.
С самого начала Microsoft согласилась «оставить технологии AGI и управление ими некоммерческой организации и человечеству». Представитель OpenAI подтвердил, что организация стремится создать безопасный и полезный AGI, управляемый советом, который включает в себя разнообразные экспертные мнения в процессе принятия решений.
В настоящее время в совете есть председатель Грег Брокман, главный ученый Илья Сутскевер и CEO Сэм Альтман, а также внештатные члены Адам Д’Анджело, Таша Макаули и Хелен Тонер, все из которых имеют связи с движением Эффективного Альтруизма. OpenAI ранее подвергался критике за свои отношения в этой сфере, особенно после скандалов с такими известными фигурами, как Сэм Бэнкман-Фрид.
Представитель уточнил, что ни один из членов совета не идентифицирует себя как эффективного альтруиста, подчеркивая их роль как независимых участников, сосредоточенных на безопасности и этике в области ИИ.
Процесс принятия решений по поводу AGI был охарактеризован как «необычный». Юридический эксперт Сузи Фултон отметила, что, хотя может показаться необычным, чтобы совет принимал такие решения, это соответствует обязанностям некоммерческой организации, ставящей благополучие человечества выше интересов акционеров. С большинством независимых членов совета OpenAI стремится создать структуру, которая акцентирует внимание на своей миссии.
Юридические мнения предполагают, что, хотя решение совета о AGI является нетипичным, оно не является юридически запрещенным, учитывая обязанность совета контролировать важные вопросы, связанные с миссией.
Тем не менее, остаются сомнения относительно сроков достижения AGI. Некоторые утверждают, что сосредоточение на этой цели может отвлекать от решения непосредственных последствий существующих технологий ИИ. Эксперты, такие как Мерв Хикок, подчеркивают возможное отсутствие разнообразных точек зрения внутри OpenAI, призывая к осторожности в отношении законности его миссии по AGI.
Неясное определение AGI со стороны OpenAI усложняет его последствия, даже когда руководство видит будущее, в котором сосуществует несколько AGI, способствуя разнообразным взглядам.
Последствия стремления OpenAI к AGI для Microsoft остаются неопределенными, особенно с учетом их структурных отношений. Юридический ученый Энтони Кейси отметил потенциальные конфликты, возникающие из-за двойной сущности OpenAI, предполагая, что если прибыли компании будут противоречить миссии некоммерческой организации, это может вызвать серьезные споры.
С учетом того, что установить пределы прибыли проще, чем разрешить конфликты интересов, остается неясным, как эта уникальная структура будет справляться с комплексным ландшафтом разработки и управления AGI.
Рейтинг
