Hoje, a administração Biden nomeou Elizabeth Kelly, uma importante assessora da Casa Branca que foi fundamental na elaboração da Ordem Executiva (OE) sobre IA do Presidente, como diretora do recém-criado Instituto de Segurança em IA dos EUA (USAISI) no Instituto Nacional de Padrões e Tecnologia (NIST). Elham Tabassi também foi nomeada como diretora de tecnologia.
O NIST, parte do Departamento de Comércio dos EUA, lançou em janeiro de 2023 uma esperada estrutura de gestão de riscos em IA e foi encarregado de avaliar e auditar tecnologias de IA sob a OE da Casa Branca. Isso inclui o desenvolvimento de diretrizes para a realização de testes de "red-teaming" em IA para garantir a implantação de sistemas de IA seguros, protegidos e confiáveis.
As nomeações para a liderança representam o primeiro anúncio significativo sobre o USAISI desde sua criação em novembro de 2023, com o objetivo de apoiar as responsabilidades delineadas na Ordem Executiva sobre IA. No entanto, permanecem escassas as informações sobre as operações e o financiamento do instituto, especialmente em um momento em que o NIST, que possui aproximadamente 3.400 funcionários e um orçamento anual de pouco mais de US$ 1,6 bilhão, enfrenta desafios de financiamento.
Um grupo bipartidário de senadores solicitou US$ 10 milhões para estabelecer o USAISI dentro do NIST na legislação de financiamento fiscal de 2024, mas o status dessa solicitação é incerto. Além disso, em dezembro, membros do Comitê de Ciência da Câmara criticaram o NIST por sua falta de transparência e por não anunciar um processo competitivo para as próximas bolsas de pesquisa em IA relacionadas ao USAISI. Os legisladores expressaram preocupação sobre uma proposta de parceria em pesquisa em IA entre o NIST e a RAND Corporation, um think tank ligado à indústria de tecnologia e ao controverso movimento de “altruísmo eficaz”.
Em sua carta, os legisladores apontaram desafios no campo da pesquisa em segurança em IA, afirmando que “os achados dentro da comunidade costumam ser autorreferenciais e carecem da qualidade que vem de críticas externas.” Eles destacaram desacordos significativos sobre o escopo e as definições dentro da pesquisa em segurança em IA.
Rumman Chowdhury, ex-chefe de iniciativas em IA na Accenture e da equipe META do Twitter, comentou sobre as nomeações para a liderança do USAISI, ressaltando que, embora haja grande expectativa por atualizações sobre o NIST e o USAISI, o ritmo das comunicações é típico, dado o rigoroso processo de avaliação envolvido. Chowdhury expressou confiança na imparcialidade do NIST, afirmando: “Eles têm realizado esse tipo de trabalho há muito tempo... Não são nomeados, portanto isso não está às margens de quem está no poder.”
Entretanto, ela enfatizou que o financiamento continua sendo uma questão crítica para o USAISI. “Este é um mandato não financiado por meio da ordem executiva,” explicou Chowdhury, ressaltando os desafios de assegurar recursos legislativos em um cenário político polarizado. Enquanto o Reino Unido alocou US$ 100 milhões para segurança em IA, o financiamento nos EUA permanece incerto.
Sobre o recente pedido de financiamento do Senado, ela mencionou que estava ciente, mas não havia visto indicações de que os recursos tinham sido recebidos. Chowdhury também destacou o Consórcio do Instituto de Segurança em IA, que convida organizações a contribuírem com sua expertise em governança de IA, segurança e IA responsável. As taxas de adesão para o consórcio estão estabelecidas em US$ 1.000 por ano, embora ela não estivesse ciente dos planos do NIST em relação a bolsas de pesquisa.
As solicitações de financiamento continuam, com a Anthropic defendendo US$ 15 milhões para apoiar as iniciativas de medição e padrões em IA do NIST desde abril de 2023. Isso foi visto como uma solução direta para os formuladores de políticas que buscam manter a liderança dos EUA no desenvolvimento de tecnologias críticas.
Apesar desses desafios, Chowdhury permanece otimista sobre o futuro do USAISI dentro do NIST. “Acho que Elham é uma das pessoas mais sensatas que conheço... Precisamos de alguém focado em fazer o trabalho acontecer,” disse ela. Também observou que a posição do USAISI dentro do NIST envia uma mensagem positiva sobre a prioridade dada à integridade científica em relação à influência política.
Classificação
