Biden désigne des leaders pour l'Institut de sécurité de l'IA face aux préoccupations de financement persistantes du NIST.

Aujourd'hui, l'administration Biden a nommé Elizabeth Kelly, une collaboratrice clé de la Maison Blanche ayant joué un rôle déterminant dans l'Ordonnance Exécutive (OE) sur l'IA du Président, directrice du nouvel Institut Américain pour la Sécurité de l'IA (USAISI) au sein de l'Institut National des Standards et de la Technologie (NIST). Elham Tabassi a également été désignée comme directrice technique.

Le NIST, qui fait partie du Département du Commerce américain, a publié en janvier 2023 un cadre très attendu pour la gestion des risques liés à l'IA et a été chargé d'évaluer et d'auditer les technologies de l'IA selon l'OE sur l'IA. Cela inclut l'élaboration de directives pour mener des tests de "red-teaming" afin de garantir le déploiement de systèmes d'IA sûrs, sécurisés et fiables.

Ces nominations marquent la première annonce significative concernant l'USAISI depuis sa création en novembre 2023, visant à soutenir les responsabilités énoncées dans l'OE sur l'IA. Cependant, les détails sur les opérations et le financement de l'institut demeurent flous, surtout alors que le NIST, avec ses environ 3 400 employés et un budget annuel légèrement supérieur à 1,6 milliard de dollars, rencontre des défis financiers.

Un groupe bipartisan de sénateurs a demandé 10 millions de dollars pour établir l'USAISI au sein du NIST dans la législation de financement pour l'exercice 2024, mais le statut de cette demande reste incertain. De plus, en décembre, des membres du Comité des Sciences de la Chambre ont critiqué le NIST pour son manque de transparence et l'absence d'un processus compétitif pour les subventions de recherche en IA prévues. Les législateurs ont exprimé leurs inquiétudes au sujet d'un partenariat de recherche en IA proposé entre le NIST et la RAND Corporation, un think tank lié à l'industrie technologique et au mouvement controversé de "l'altruisme efficace".

Dans leur lettre, les législateurs ont souligné les défis dans le domaine de la recherche sur la sécurité de l'IA, affirmant que "les résultats au sein de la communauté sont souvent autocentrés et manquent de la qualité qui provient de critiques externes." Ils ont mis en avant des désaccords significatifs sur le périmètre et les définitions liées à la recherche sur la sécurité de l'IA.

Rumman Chowdhury, ancienne responsable des efforts en IA chez Accenture et au sein de l'équipe META de Twitter, a commenté les nominations à la direction de l'USAISI, notant qu'il y a une forte attente pour des mises à jour concernant le NIST et l'USAISI, bien que le rythme des communications soit habituel compte tenu du processus de vérification approfondie impliqué. Chowdhury a exprimé sa confiance en l'impartialité du NIST, déclarant : "Ils font ce genre de travail depuis longtemps... Ils ne sont pas nommés, donc cela ne dépend pas des caprices de ceux qui sont au pouvoir."

Cependant, elle a souligné que le financement reste une question cruciale pour l'USAISI. "C'est un mandat non financé via l'ordonnance exécutive," a expliqué Chowdhury, signalant les défis à obtenir un financement législatif dans un paysage politique polarisé. Alors que le Royaume-Uni a alloué 100 millions de dollars pour la sécurité de l'IA, le financement aux États-Unis reste incertain.

Concernant la récente demande de financement du Sénat, elle a mentionné en avoir connaissance, mais n'avoir pas vu d'indications selon lesquelles le financement avait été accordé. Chowdhury a également mis en avant le Consortium de l'Institut de Sécurité de l'IA, qui invite les organisations à contribuer leur expertise en gouvernance de l'IA, sécurité et IA responsable. Les frais d'adhésion au consortium sont fixés à 1 000 dollars par an, bien qu'elle ne soit pas au courant des plans du NIST concernant les subventions de recherche.

Les appels au financement persistent, avec Anthropic plaidant pour 15 millions de dollars pour soutenir les initiatives de mesure et de normes de l'IA du NIST dès avril 2023. Cela a été perçu comme une solution simple pour les décideurs cherchant à maintenir le leadership américain dans le développement de technologies critiques.

Malgré ces défis, Chowdhury reste optimiste quant à l'avenir de l'USAISI au sein du NIST. "Je pense qu'Elham est l'une des personnes les plus sensées que je connaisse... Nous avons besoin de quelqu'un concentré sur l'exécution du travail," a-t-elle déclaré. Elle a également souligné que le positionnement de l'USAISI au sein du NIST envoie un message positif concernant la priorité donnée à l'intégrité scientifique sur l'influence politique.