Лидеры в области ИИ Хинтон, Нг, Лекун и Бенгио усиливают дискуссии об экзистенциальных рисках

В недавних онлайн-дискуссиях пионеры искусственного интеллекта Джеффри Хинтон, Эндрю Нг, Ян Лекун и Ёсуа Бенжио активизировали дебаты по вопросам экзистенциальных рисков, связанных с ИИ. Это живое обсуждение на платформах X и LinkedIn проявляет явное разделение: Хинтон и Бенжио выражают серьезные опасения относительно угроз, которые ИИ представляет для существования, в то время как Нг и Лекун отвергают эти страхи как преувеличенные, утверждая, что такие опасения могут быть использованы крупными технологическими компаниями для консолидации власти.

Этот сдвиг в тоне показывает отход от единого фронта, который группа поддерживала с начала революции глубокого обучения в 2012 году. Всего год назад Лекун и Хинтон защищали глубокое обучение от критиков, таких как Гэри Маркус, который утверждал, что оно "встретило стену".

Хинтон, ушедший из Google в мае, чтобы свободно выражать свои опасения относительно ИИ, недавно ответил на комментарии Нга в интервью Австралийскому финансовому обзору. Нг обвинил крупные технологии в “лжи” о определенных рисках ИИ, призывая к строгому регулированию. В своем информационном бюллетене The Batch он выразил свой главный страх: "Если переоцененные риски, такие как вымирание человечества, приведут к жестким регуляциям, это может подавить проекты с открытым исходным кодом и препятствовать инновациям."

Лекун, работающий главным ученым в Meta, ответил на замечания Нга, заявив: "По крайней мере, одна крупная технологическая компания открыто делится ИИ-моделями и не лжет о рисках ИИ." Он уточнил, что, хотя некоторые технологические лидеры действительно беспокоятся о экзистенциальных рисках, он считает, что они их преувеличивают, приписывая этому нарративу "неоправданный комплекс превосходства".

Бенжио, который вместе с Хинтоном и Лекуном получил престижную премию Тюринга ACM A.M. в 2018 году за вклад в глубокое обучение, недавно высказал свои опасения по поводу рисков ИИ. В статье для канадского издания Globe and Mail он сообщил, что достижения в области ИИ, такие как ChatGPT, лишь усиливают его опасения о потенциальных угрозах, сосредоточенных на будущих поколениях, заявив: “Риски ИИ вызывают у меня серьезные беспокойства, не дают спать по ночам, особенно когда думаю о моем внуке.”

Несмотря на разные взгляды, дебаты не повредили долгосрочной дружбе между этими пионерами ИИ. Нг поделился фотографией с празднования выхода на пенсию Хинтона в Google, в то время как Лекун запечатлел момент с Хинтоном и Бенжио, подчеркивая: “Люди могут расходиться в мнениях по важным вопросам, но при этом оставаться хорошими друзьями.”