Илон Маск подает иск против руководства OpenAI из-за направления разработки AGI
Миллиардер и предприниматель Илон Маск, один из соучредителей OpenAI, подал иск против генерального директора Сэма Альтмана и председателя Грега Брокмана. В иске утверждается, что они отклонились от первоначальной миссии OpenAI по созданию искусственного общего интеллекта (AGI) на благо человечества, сосредоточившись вместо этого на прибыли через партнерство с Microsoft.
Обвинения в нарушении учредительного соглашения
В иске, представленном в Верховный суд Сан-Франциско, Маск утверждает, что он, Альтман и Брокман изначально согласились создать AGI — ИИ, который сможет превзойти людей в экономически ценных задачах — на безприборной основе. Эта модель подчеркивала важность открытых технологий для обеспечения безопасности и прозрачности.
Однако, после ухода Маска, в иске говорится, что OpenAI сместила фокус на прибыль, фактически став закрытой дочерней компанией Microsoft. Этот сдвиг, по мнению Маска, нарушает их учредительное соглашение.
Общие опасения по поводу рисков ИИ
Маск подчеркивает, что он и Альтман еще в 2015 году высказывали значительные опасения по поводу рисков, связанных с продвинутым ИИ. Альтман предупреждал, что суперинтеллект (SMI) представляет одну из величайших угроз для выживания человечества. Это общее беспокойство побудило соучредителей создать OpenAI как противовес таким технологическим гигантам, как Google, чтобы развитие ИИ было ориентировано на благо человечества.
Сначала OpenAI придерживалась своих оснований, включая выпуск модели GPT-3. Организация делилась детальной информацией о внутренних механизмах GPT-3. Однако после партнерства с Microsoft в 2020 году и эксклюзивной лицензии на GPT-3 их приверженность прозрачности начала угасать.
Смена стратегии OpenAI
По состоянию на 2023 год иск утверждает, что OpenAI нарушила свои учредительные принципы, выпустив GPT-4, продвинутую модель с исключительными аналитическими способностями, не сделав базовые технологии открытыми. OpenAI заявляет, что секретность объясняется соображениями безопасности, но Маск утверждает, что это продиктовано коммерческими интересами.
Он утверждает, что GPT-4, который исследователи Microsoft описали как раннюю версию AGI, был интегрирован в платный пакет Office от Microsoft, что выходит за рамки изначального соглашения 2020 года.
В иске говорится, что в ноябре 2023 года совет директоров OpenAI уволил Альтмана из-за опасений по поводу его прозрачности и руководства. Однако под давлением Microsoft он быстро вернулся на пост, и многие члены совета были заменены. Эти новые члены совета не обладают достаточной экспертизой для оценки достижения AGI, согласно иску.
Призыв к соблюдению первоначальной миссии
Иск Маска требует от OpenAI вернуться к своей оригинальной миссии по разработке AGI на благо человечества, а не ради прибыли. Это юридическое действие — не первая критика Маском OpenAI; он ранее характеризовал организацию как пешку Microsoft и "беспощадный корпоративный монополизм", который утратил свою основную безприборную этику.
Кроме того, Маск основал собственный проект в области ИИ, xAI, с целью создания безопасного и этичного ИИ. Эта инициатива направлена на разработку понимания на основе ИИ и включает в себя чат-ассистента по имени Grok. Маск считает, что этот подход минимизирует экзистенциальные риски, возникающие из-за ИИ.
Хотя xAI еще на ранних стадиях, он привлек талантливых специалистов из OpenAI, DeepMind, Google Research, Microsoft Research, Tesla и Университета Торонто, что подчеркивает приверженность Маска к ответственной разработке ИИ.
Рейтинг
