Губернатор Калифорнии Ньюсом наклонил законопроект SB 1047, призванный смягчить последствия катастроф, связанных с ИИ.

Губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект SB 1047, целью которого было предотвратить злоупотребления с искусственным интеллектом (ИИ), способные причинить "критический вред" людям. Законодательство было одобрено Государственной ассамблеей Калифорнии 28 августа с голосованием 41-9, но такие организации, как Торговая палата, призвали губернатора его отклонить.

В своем сообщении о вето от 29 сентября Ньюсом признал, что, хотя законопроект и "обоснован", он не учитывает важные факторы, такие как развертывание ИИ в высокорISKованных средах и обработка чувствительных данных. Вместо этого законопроект накладывал строгие требования даже на базовые функции ИИ при использовании в крупных системах.

Законопроект SB 1047 предусматривал ответственность разработчиков ИИ-моделей за внедрение протоколов безопасности для предотвращения катастрофических последствий. Обязательные меры включали тщательное тестирование, внешние оценки рисков и функцию аварийной остановки, с штрафами от $10 миллионов за первые нарушения и до $30 миллионов за последующие. Однако в измененной версии было исключено право генерального прокурора штата на подачу исков к компаниям ИИ за неосторожность, если не произошло катастрофического события, что ограничивало возможные юридические действия только обеспечением судебных запретов.

Законопроект нацеливался на регулирование ИИ-моделей с минимальными эксплуатационными затратами в $100 миллионов и учебными возможностями в 10^26 FLOPS. Он также касался проектов, созданных с существенными сторонними инвестициями свыше $10 миллионов. Любая компания, работающая в Калифорнии, должна была бы соблюдать требования законопроекта, если она соответствовала этим критериям.

Ньюсом выразил обеспокоенность узким фокусом законопроекта на масштабных ИИ-системах, заявив: "Я не верю, что это лучший подход к защите общества от реальных угроз, возникающих из-за технологий." Он предостерег, что этот акцент может создать ложное чувство безопасности, так как меньшие специализированные модели могут представлять равные, если не большие, риски, препятствуя инновациям на благо общества.

Ранее в SB 1047 предлагалось создать Отдел фронтальных моделей для регулирования ИИ-технологий. Однако законопроект был изменен, и контроль был передан Совету фронтальных моделей в Агентстве государственных операций, члены которого назначаются губернатором и законодательным собранием.

Автором SB 1047 является сенатор штата Калифорния Скотт Уинер, которому противостояло значительное количество представителей технологического сообщества. Известные исследователи ИИ Джеффри Хинтон и Ёсуа Бенджио поддержали эту инициативу, выражая озабоченность по поводу угроз ИИ. Уинер подчеркнул важность превентивных мер, заявив: "Не будем ждать, пока случится что-то плохое."

В своем сообщении о вето Ньюсом подтвердил обязательство штата по обеспечению безопасности, настояв: "Калифорния не откажется от своей ответственности. Необходимы протоколы безопасности и ясные последствия для недобросовестных участников." Он выступил за создание регуляторной структуры, которая будет развиваться параллельно с прогрессом ИИ.

Законопроект столкнулся с серьезным сопротивлением со стороны технологических лидеров и организаций, включая исследователя Фэй-Фэй Ли и главного AI-ученого Meta Янна Лекуна. Они критиковали инициативу за потенциальное подавление инноваций в области ИИ. Технологические торговые группы, представляющие такие компании, как Amazon, Apple и Google, предостерегали, что SB 1047 может тормозить новые разработки в калифорнийском технологическом секторе. Кроме того, венчурная капитальная фирма Andreessen Horowitz и ряд стартапов выразили обеспокоенность финансовыми последствиями для ИИ-иноваторов, что привело к изменениям в версии SB 1047, продвигавшейся через Комитет по ассигнованиям Калифорнии 15 августа.