Funcionários do NIST Protestam Contra a Nomeação Esperada de Pesquisador de IA 'Altruísta Eficaz' para o Instituto de Segurança em IA dos EUA

O Instituto Nacional de Padrões e Tecnologia (NIST) enfrenta uma crise interna significativa, com funcionários e cientistas ameaçando se demitir devido à provável nomeação de Paul Christiano para um cargo-chave no recém-criado Instituto de Segurança em IA dos EUA (AISI). Duas fontes anônimas próximas à situação relataram que o processo de contratação de Christiano, conhecido por suas conexões com o movimento do altruísmo eficaz (EA), foi acelerado sem aviso prévio aos colaboradores.

O NIST, parte do Departamento de Comércio dos EUA, se dedica a melhorar a inovação e a competitividade industrial por meio da ciência e tecnologia de medição avançadas. A agência também desenvolve normas e estruturas de cibersegurança, incluindo um quadro de segurança em IA lançado em janeiro de 2023.

A possível nomeação de Christiano, supostamente influenciada pela Secretária de Comércio, Gina Raimondo, gerou considerável resistência entre os funcionários do NIST. As preocupações concentram-se em como suas afiliações ao EA e ao longtermismo podem afetar a objetividade e a integridade do instituto.

Divyansh Kaushik, diretor associado para tecnologias emergentes e segurança nacional da Federação de Cientistas Americanos, enfatizou que Christiano é altamente qualificado para as tarefas específicas delineadas na Ordem Executiva de IA do Presidente Biden, de novembro de 2023, que orienta o NIST e o AISI a se concentrarem em áreas como segurança química, biológica, radiológica e nuclear (CBRN).

Críticos argumentam que o EA, descrito pelo Centro de Altruísmo Eficaz como um movimento que utiliza evidências para maximizar esforços altruístas, se transformou em uma facção com influência desproporcional, especialmente no campo da segurança em IA. Os detratores afirmam que essa ênfase em riscos existenciais pode ofuscar questões urgentes e mensuráveis, como viés e desinformação nas aplicações atuais de IA.

O AISI foi criado em novembro de 2023 para cumprir as responsabilidades do Departamento de Comércio estipuladas na Ordem Executiva de IA. O Líder da Maioria do Senado dos EUA, Chuck Schumer, anunciou recentemente um financiamento de até 10 milhões de dólares para o AISI, ressaltando sua importância. No entanto, relatórios recentes criticaram o NIST por sua falta de transparência em relação à adequação e ao processo competitivo para concessões de pesquisa associadas ao instituto. Também surgiram preocupações sobre uma possível concessão à RAND Corporation, vinculada a figuras influentes na indústria de tecnologia e no altruísmo eficaz.

Kaushik observou que, independentemente da nomeação, é crucial que o NIST mantenha seu compromisso com sua missão. Ele afirmou: “Estamos navegando em território desconhecido ao avaliar riscos hipotéticos de modelos de uso geral.” Ele instou a liderança do Departamento de Comércio a priorizar a integridade científica em suas nomeações.

Kaushik alertou que a perda de "cientistas estrelas" por conta de tais nomeações seria prejudicial. Ele espera que os comitês do Congresso que monitoram o trabalho do AISI possam garantir que o instituto utilize suas forças de maneira eficaz, sem comprometer sua missão central. Em uma postagem recente no X, ele expressou otimismo sobre a necessidade de nomeações oportunas, reiterando que contratações proativas devem ser vistas de forma positiva à luz dos prazos da Ordem Executiva.

Inquéritos da mídia foram feitos à Secretária de Comércio Gina Raimondo, à diretora do AISI, Elizabeth Kelly, e a Paul Christiano para mais comentários, e atualizações serão fornecidas à medida que as respostas forem recebidas.