Администрация Байдена предлагает контроль за моделями ИИ с открытым весом: что это означает для будущей регуляции ИИ

Администрация Байдена инициировала мониторинг моделей с открытыми весами для сбора необходимой информации, которая поможет в будущем регулировании. Однако конкретные меры регулирования для этих моделей еще не были определены.

В недавнем отчете Национальная администрация телек通信а и информации (NTIA) подчеркнула необходимость оценки рисков, связанных с публичными моделями ИИ, которые могут нарушить существующие системы. Эта оценка важна для предотвращения возможных катастроф.

Несмотря на признание значимости мониторинга, NTIA отметила, что в США в настоящее время недостаточно возможностей для эффективного управления многими рисками, связанными с основными моделями. Для того, чтобы восполнить этот пробел, NTIA предложила сосредоточиться на трех ключевых областях: сбор данных о возможностях моделей для мониторинга рисков, оценка и сравнение индикаторов рисков, а также разработка целевых политик для их минимизации.

NTIA определяет модели с открытыми весами как основные модели с публично доступными весами или параметрами, которые пользователи могут скачать. Они отличаются от моделей с открытым исходным кодом, которые функционируют по лицензионной модели, позволяющей их репликацию, вопреки некоторым заявлениям разработчиков моделей ИИ.

«Учет предельного риска помогает избежать ненужных ограничений на модели двойного назначения с широко доступными весами, особенно при сравнении преимуществ и рисков с аналогичными системами», - заявила NTIA.

Агентство также признало, что как открытые, так и закрытые модели несут определенные риски, требующие управления. Однако открытые модели могут предложить уникальные возможности и вызовы для снижения рисков.

Фокус администрации Байдена на моделях с открытыми весами подразумевает подход к регулированию, схожий с Законом о ИИ Европейского Союза, принятом Европарламентом в марте. Законодательство ЕС регулирует ИИ на основе рисков, связанных с конкретными случаями использования, а не самими моделями. Например, для компаний, использующих ИИ для распознавания лиц, были установлены значительные штрафы. Учитывая подход ЕС, США, вероятно, рассматривают аналогичные меры для решения потенциальных угроз публичным моделям ИИ.

Кевин Банкстон, старший советник по управлению ИИ в Центре демократии и технологий, похвалил NTIA за осторожный подход к регулированию моделей ИИ. В письме он отметил: «NTIA справедливо пришла к выводу, что нет достаточных доказательств новых рисков от открытых основополагающих моделей, чтобы оправдать новые ограничения на их распространение».

На данный момент разработчикам моделей ИИ не стоит слишком беспокоиться, так как NTIA все еще занимается всесторонним сбором фактических данных.

Ассаф Мелохна, соучредитель компании ИИ Aquant, отметил в письме, что текущие наблюдения NTIA не вносят значительных изменений для разработчиков моделей. «Разработчики могут продолжать публиковать свои веса на свое усмотрение, хотя им придётся столкнуться с повышенным вниманием», - объяснил Мелохна. «Сектор быстро развивается, и федеральные агентства должны оставаться адаптивными на основе новых данных».