5 Удивительных Анализов из Писем OpenAI с Илоном Маском

Технологическое сообщество бурлило от волнения прошлой ночью, когда OpenAI опубликовала блог, касающийся недавнего иска Илона Маска против организации и её руководителей, генерального директора Сэма Альтмана и президента Грега Брокмана. Обвинения Маска включают нарушение контракта, нарушение фидуциарных обязательств и недобросовестную конкуренцию, все они связаны с озабоченностью, что OpenAI ставит прибыль и коммерческие интересы при разработке искусственного общего интеллекта (AGI) выше своей ответственности по защите общественного благосостояния.

В качестве contundente защиты OpenAI опубликовала электронные письма, обмененные между Маском, Альтманом, Брокманом и главным ученым Ильей Сутскевером, выделив пять ключевых моментов:

1. Уточнение о прозрачности

Сутскевер подчеркнул, что "открытость" в OpenAI не означает строгое соответствие принципу открытого кода. Он отметил: «По мере приближения к созданию ИИ имеет смысл начинать менее открыто». Он объяснил, что хотя все должны в конечном итоге извлечь выгоду из достижений в области ИИ, нехватка научной информации на начальном этапе может быть приемлемой.

2. Согласие Маска с открытостью ИИ

В ответ на Сутскевера Маск лаконично заявил: «Да», что указывает на его согласие с тем, что разработки ИИ не обязательно должны быть открытыми.

3. Стратегии финансирования с Tesla

Маск предложил OpenAI связаться с Tesla для обеспечения финансирования, назвав OpenAI «сжигающей деньги». Он отметил, что связывание OpenAI с Tesla как «дойной коровой» может повысить её конкурентоспособность по сравнению с такими технологическими гигантами, как Google.

4. Обсуждения о коммерческой модели с 2018 года

Хотя OpenAI в настоящее время является некоммерческой организацией, обсуждения о переходе к коммерческой модели — что привело к её текущей структуре ограниченной прибыли — ведутся с 2018 года. Маск переслал электронное письмо, подчеркивающее, что переход к коммерческой модели может обеспечить устойчивые доходы и привлечь значительные инвестиции, особенно через партнерство с Tesla.

5. Озабоченность относительно безопасной разработки ИИ

Сутскевер выразил серьезные опасения по поводу потенциальных рисков, связанных с открытым доступом к небезопасному ИИ, особенно в сценарии "резкого взлета". Он предупредил, что если создание безопасного ИИ окажется более сложным, чем создание небезопасного, то открытость информации увеличит риск злоумышленников, создающих опасные системы ИИ.

Резкий ответ OpenAI и идеи из этих электронных писем подчеркивают критически важные аспекты в продолжающемся обсуждении вопросов безопасности ИИ и его коммерциализации.