Пионер в области ИИ Ян ЛеКун сегодня инициировал активную дискуссию, призвав новое поколение разработчиков избегать крупных языковых моделей (LLM).
«Эта область доминируется крупными компаниями, и вам будет сложно внести свой вклад», — заявил ЛеКун на конференции VivaTech в Париже. «Сосредоточьтесь вместо этого на системах ИИ следующего поколения, которые преодолевают ограничения LLM».
Как главный ученый по ИИ компании Meta и профессор Нью-Йоркского университета, его замечания быстро вызвали вопросы о недостатках современных LLM. В ответ на дальнейшие вопросы в соцсети X (ранее Twitter) он уточнил: «Я разрабатываю системы ИИ следующего поколения, а не LLM. Я, по сути, говорю: "конкуруйте со мной!" Чем больше умов работает над этим, тем лучше!»
Несмотря на его призыв к действию, многие пользователи искали разъяснения о том, что такое «ИИ следующего поколения», и возможные альтернативы LLM. Разработчики, ученые и специалисты по ИИ поделились множеством идей, включая ИИ с учетом границ, дискриминативный ИИ, многозадачность, многомодальные системы, категорическое глубокое обучение, модели на основе энергии, целевые малые языковые модели, нишевые сценарии применения, индивидуальную донастройку, модели состояния пространства и оборудование для конкретного ИИ. Некоторые пользователи предложили исследовать сети Колмогорова-Арнольда (KAN), многообещающий прогресс в нейросетях.
Один пользователь обозначил пять систем ИИ следующего поколения:
- Многомодальный ИИ
- Логическое мышление и общий интеллект
- Воплощенный ИИ и робототехника
- Обучение без учителя и самообучение
- Искусственный общий интеллект (AGI)
Другой предложил, чтобы каждый студент освоил основные дисциплины, такие как:
- Статистика и вероятность
- Обработка и трансформация данных
- Классическое распознавание образов (например, наивный Байес, деревья решений, случайные леса)
- Искусственные нейронные сети
- Свёрточные нейронные сети
- Рекуррентные нейронные сети
- Генеративный ИИ
Некоторые же argued, что время как раз идеальное для студентов, чтобы взаимодействовать с LLM, поскольку приложения в значительной степени остаются неизученными. Остается много нового в области подсказок, обходов систем и доступности.
Критики также указали на обширную разработку LLM компанией Meta, предполагая, что заявления ЛеКуна направлены на подавление конкуренции. Как заметил один из пользователей: «Когда глава AI в крупной компании говорит: "не конкурируйте", мне становится хочется конкурировать».
ЛеКун, сторонник целевых систем ИИ и открытого исходного кода, недавно заявил в интервью Financial Times, что у LLM отсутствует логическое мышление, и они никогда не достигнут уровня интеллекта человека. «Они не понимают физический мир, им не хватает постоянной памяти, они не могут осмысленно рассуждать и планировать иерархически», — утверждал он.
Компания Meta недавно представила свою архитектуру Video Joint Embedding Predictive Architecture (V-JEPA), предназначенную для распознавания и понимания сложных взаимодействий объектов. Эта инновация соответствует видению ЛеКуна по развитию переднего края машинного интеллекта (AMI).
Многие эксперты отрасли разделяют мнение ЛеКуна о недостатках LLM. Приложение для чата ИИ Faune охарактеризовало его идеи как «впечатляющие», подчеркивая, что замкнутые системы сталкиваются с серьезной жесткостью. «Создатель ИИ, который может учиться и адаптироваться как человек, вероятно, получит Нобелевскую премию», — заявили они.
Другие отметили «чрезмерное внимание» отрасли к LLM, считая их тупиком для истинного прогресса. Некоторые даже назвали LLM простыми соединительными инструментами, эффективно связывающими системы, подобно телефонным оператором.
ЛеКун не чужд контроверсий. Он активно участвовал в острых дебатах с такими пионерами ИИ, как Джеффри Хинтон, Эндрю Нг и Ёсуа Бенжио, о существующих рисках, возникающих из-за ИИ, часто утверждая, что эти опасения являются преувеличенными.
Один комментатор вспомнил недавнее интервью с Хинтоном, который пропагандировал полное погружение в LLM, утверждая о тесной связи между человеческим и AI-мозгами. «Интересно наблюдать такое фундаментальное несогласие», — отметил пользователь.
Этот конфликт точек зрения вряд ли разрешится в ближайшее время.