Сражение за безопасность ИИ: Янн ЛеКун критикует закон Калифорнии SB 1047, в то время как Джеффри Хинтон поддерживает новые регуляции.

Янн Лекун, главный научный сотрудник AI в Meta, публично раскритиковал сторонников спорного законопроекта о безопасности AI в Калифорнии, SB 1047, в среду. Это замечание прозвучало после того, как Джеффри Хинтон поддержал законопроект всего за день до этого. Указанный разногласия между пионерами AI подчеркивают значительные разделения в сообществе относительно будущего регулирования AI.

Законодательство Калифорнии приняло SB 1047, который ожидает подписи губернатора Гэвина Нусома. Этот законопроект вызвал интенсивные споры о регулировании AI, предлагая установить ответственность для разработчиков крупномасштабных AI-моделей, которые могут причинить катастрофический вред при отсутствии должных мер безопасности. Он в первую очередь направлен на модели стоимостью не менее 100 миллионов долларов на обучение и модели, функционирующие в Калифорнии, пятой по величине экономике мира.

Соперничество титанов AI: Лекун против Хинтона по SB 1047

Лекун, ключевая фигура в области глубокого обучения, утверждает, что многие сторонники законопроекта имеют «искаженное представление» о возможностях AI. «Это искажение происходит из-за их неопытности, наивности в отношении предстоящих проблем и завышенных оценок прогресса их организаций», - написал он в X (ранее Twitter).

Его комментарии напрямую касались поддержки Хинтоном открытого письма, подписанного более чем 100 текущими и бывшими сотрудниками ведущих AI-компаний, таких как OpenAI и Google DeepMind. Это письмо, отправленное губернатору Нусому 9 сентября, призывало его подписать SB 1047, ссылаясь на серьезные риски от мощных AI-моделей, включая возможное использование для биологического оружия и кибератак на критическую инфраструктуру.

Этот публичный разлад между Лекуном и Хинтоном демонстрирует сложности регулирования быстро развивающейся технологии. Хинтон, который покинул Google прошлым летом, чтобы высказать озабоченность по поводу рисков AI, представляет тех, кто считает, что системы AI могут скоро создать экзистенциальные угрозы. В то время как Лекун утверждает, что такие опасения преждевременны и наносят ущерб открытым исследованиям.

Внутри SB 1047: Спорный законопроект, формирующий регулирование AI

Дебаты вокруг SB 1047 разрушили традиционные политические альянсы. Среди значимых сторонников – Илон Маск, несмотря на прошлую критику автора законопроекта, сенатора штата Скотта Уинера. Противниками являются спикер-эмерита Нэнси Пелоси и мэр Сан-Франциско Лондон Брид, а также ведущие технические компании и венчурные капиталисты.

Anthropic, компания в области AI, первоначально выступавшая против законопроекта, изменила свою позицию после внесения поправок, заявив, что «преимущества законопроекта скорее перевешивают его недостатки». Этот поворот подчеркивает эволюционный характер законодательства и продолжающиеся переговоры между законодателями и технологическим сектором.

Критики утверждают, что SB 1047 может подавить инновации и поставить в невыгодное положение небольшие компании и проекты с открытым исходным кодом. Эндрю Нг, основатель DeepLearning.AI, заявил в журнале TIME, что законопроект «допускает фундаментальную ошибку, регулируя универсальную технологию, а не ее приложения».

Тем не менее, сторонники утверждают, что потенциальные риски нерегулируемого развития AI значительно превышают эти опасения. Они считают, что фокус на моделях с бюджетом более 100 миллионов долларов гарантирует, что в первую очередь будут затронуты крупные, хорошо обеспеченные компании, способные установить надежные меры безопасности.

Силиконовая долина разделена: Как SB 1047 раскалывает технологический мир

Участие текущих сотрудников компаний, выступающих против законопроекта, выявляет внутренние разногласия в этих организациях относительно баланса между инновациями и безопасностью.

В то время как губернатор Нусом взвешивает решение о подписании SB 1047, он стоит перед выбором, который может определить направление развития AI в Калифорнии и, возможно, по всей стране. В условиях, когда Европейский Союз развивает свой законопроект о AI, решение Калифорнии может повлиять на то, примет ли США более проактивный или свободный подход к федеральному регулированию AI.

Столкновение между Лекуном и Хинтоном является микрокосмом более широких дебатов о безопасности и регулировании AI. Оно подчеркивает вызовы, с которыми сталкиваются законодатели при создании законодательства, которое эффективно решает проблемы безопасности, не препятствуя технологическому прогрессу.

По мере быстрого развития области AI исход этого законодательного противостояния в Калифорнии может установить важный прецедент для того, как общество справляется с обещаниями и угрозами продвинутых систем искусственного интеллекта. Наблюдатели из технологической отрасли, законодатели и общественность будут внимательно следить за решением губернатора Нусома в ближайшие недели.