Байден назначил руководителей Института безопасности ИИ на фоне продолжающихся опасений по поводу финансирования NIST.

Сегодня администрация Байдена назначила Элизабету Келли, ключевого помощника президента по вопросам искусственного интеллекта (ИИ), директором недавно созданного Института безопасности ИИ США (USAISI) при Национальном институте стандартов и технологий (NIST). Также был назначен главный технологический директор Элхам Табасси.

NIST, входящий в состав Министерства торговли США, в январе 2023 года представил ожидаемую рамочную программу управления рисками ИИ и был наделен полномочиями по оценке и аудиту технологий ИИ в рамках президентского указа. Это включает разработку руководящих принципов для проведения тестов по безопасности ИИ, чтобы обеспечить развертывание безопасных, защищенных и надежных систем ИИ.

Назначения в руководство стали первым значимым объявлением о USAISI с момента его создания в ноябре 2023 года для выполнения задач, указанных в президентском указе. Тем не менее, информация о работе института и его финансировании остается ограниченной, особенно учитывая, что NIST, насчитывающий около 3400 сотрудников и имеющий годовой бюджет чуть более 1,6 миллиарда долларов, сталкивается с финансовыми трудностями.

Двухпартийная группа сенаторов запрашивала 10 миллионов долларов на создание USAISI в рамках законодательства о финансировании на 2024 финансовый год, но статус этого запроса остается неясным. В декабре члены Комитета по науке Палаты представителей раскритиковали NIST за отсутствие прозрачности и за то, что не был объявлен конкурсный процесс по планируемым грантам на исследования в области ИИ, связанных с USAISI. Законодатели выразили обеспокоенность по поводу предлагаемого партнерства в области исследований ИИ между NIST и RAND Corporation, аналитическим центром, связанным с технологической индустрией и спорным движением "эффективного альтруизма".

В своем письме законодатели отметили проблемы в области исследований безопасности ИИ, заявив, что "результаты внутри сообщества часто являются самоцитированиями и не обладают качеством, которое возникает из внешней критики". Они подчеркнули значительные разногласия по вопросам объема и определений в исследованиях безопасности ИИ.

Румман Чоудхури, бывший руководитель инициатив ИИ в Accenture и команды META Twitter, обсудила назначения в руководстве USAISI, отметив, что, хотя существует большой интерес к новостям от NIST и USAISI, темп коммуникации является типичным в связи с тщательной процедурой проверки. Чоудхури выразила уверенность в беспристрастности NIST, заявив: "Они занимаются этой работой уже давно... Они не назначены, поэтому это не зависит от прихоти тех, кто у власти".

Тем не менее, она подчеркнула, что финансирование остается критическим вопросом для USAISI. "Это ненаправляемый мандат через исполнительный указ," объяснила Чоудхури, указав на трудности обеспечения законодательного финансирования в поляризованной политической обстановке. В то время как Великобритания выделила 100 миллионов долларов на безопасность ИИ, финансирование в США остается неопределенным.

Что касается недавнего запроса о финансировании в Сенате, она отметила, что знает о нем, но не видела признаний, что финансирование было получено. Чоудхури также выделила Консорциум Института безопасности ИИ, который приглашает организации вносить свой вклад в управление ИИ, безопасность и ответственный ИИ. Членский взнос для консорциума составляет 1000 долларов в год, хотя она не была в курсе планов NIST относительно исследовательских грантов.

Призывы к финансированию продолжаются, при этом Anthropic выступила за выделение 15 миллионов долларов на инициативы NIST по измерению и стандартам в области ИИ еще в апреле 2023 года. Это рассматривалось как простое решение для законодателей, стремящихся поддерживать лидерство США в критических технологиях.

Несмотря на эти трудности, Чоудхури остается оптимистичной относительно будущего USAISI в NIST. "Я думаю, что Элхам - один из самых уравновешенных людей, которых я знаю... Нам нужен кто-то, готовый сосредоточиться на выполнении работы", - сказала она. Она также отметила, что размещение USAISI в NIST посылает позитивное сообщение о приоритете научной целостности над политическим влиянием.