Великобритания тайно распускает независимый консультативный совет по искусственному интеллекту: что это означает для будущего ИИ

Британское правительство тихо распустило независимую экспертную консультативную комиссию, отвечавшую за контроль за использованием искусственного интеллекта (ИИ). Это значительное изменение стало известным благодаря отчету из ‘The Record from Recorded Future News’, который раскрыл, что Центр этики данных и инноваций (CDEI) не осуществляет свою деятельность с начала сентября, о чем не было объявлено публично.

CDEI был создан в 2018 году во время администрации Терезы Мэй с целью предоставления рекомендаций по актуальным вопросам, связанным с ИИ и этикой данных. Его задача заключалась в исследованиях государственного использования ИИ, анализе угроз, таких как мошенничество с пособиями, и рассмотрении дел о сексуальных преступлениях. В состав комитета входили видные эксперты из различных областей, включая Нила Лоуренса, профессора машинного обучения в Кембриджском университете; Джека Кларка, соучредителя Anthropic; и Мартина Хоскена, главного технолога VMware по облачным услугам. Эти специалисты стремились к реализации политики в области данных и ИИ, которая способствовала бы инновациям и этичному управлению.

После расформирования CDEI администрация Сунака создала Команду по передовому искусственному интеллекту. В новый состав входят известные фигуры, такие как лауреат премии Тьюринга Ёшуа Бенгио и Пол Кристиано, бывший глава команды по согласованию языковых моделей в OpenAI. Созданная в начале этого года, команда призвана предоставить важные рекомендации по исследованиям и безопасности ИИ, хотя ее внимание, кажется, сосредоточено на более сенсационных вопросах — в частности, на экзистенциальных опасностях, связанных с ИИ. В отличие от CDEI, которая фокусировалась на непосредственных и осуществимых рекомендациях, Команда по передовому ИИ ассоциируется с обсуждениями потенциальных рисков развития ИИ, включая теоретическую угрозу сознательного ИИ.

Возникли напряжения между целями CDEI и новой командой. Например, Лоуренс открыто подверг сомнению подход команды к угрозам ИИ, утверждая, что упоминание концепций сознательного ИИ может привести к недоразумениям и отвлечь от практических потребностей в регулировании. Он отметил, что настоящим вопросом должно быть действенное управление, а не гипотетические сценарии.

По мере подготовки правительства к предстоящему мировому саммиту по безопасности ИИ в ноябре данное изменение в структуре консультационных органов порождает вопросы о дальнейшем развитии этичного управления ИИ в Великобритании. Саммит должен объединить технологические организации, ученых и дипломатов для обсуждения ответственного использования ИИ. Премьер-министр Сунак позиционирует Великобританию в качестве лидера в сфере технологий ИИ, несмотря на недавние неудачи, такие как безуспешная попытка привлечь разработчика чипов Arm к листингу на Лондонской фондовой бирже; Arm в конечном итоге выбрала Nasdaq в США.

Представитель правительства сообщил, что CDEI был назначен на фиксированный срок, сославшись на быстрое развитие ИИ как на оправдание перехода к более разнообразной группе экспертов. Ожидается, что это преобразование позволит учесть более широкий спектр мнений, включая мнения бывших членов CDEI, чтобы лучше соответствовать приоритетам правительства в области ИИ и инноваций.

Это значительное преобразование в консультативных органах отражает быстро меняющийся ландшафт управления ИИ в Великобритании и подчеркивает продолжающийся диалог вокруг этических стандартов и мер безопасности в развитии ИИ.