Schumer Annonce un Financement de 10 Millions de Dollars pour l'Institut de Sécurité de l'IA du NIST en Pleines Défis Financiers

Le leader de la majorité au Sénat américain, Chuck Schumer (D-NY), a annoncé aujourd'hui que le National Institute of Standards and Technology (NIST) recevra jusqu'à 10 millions de dollars pour établir l'U.S. Artificial Intelligence Safety Institute (USAISI). Cette initiative a été créée en novembre 2023 pour soutenir les responsabilités du Département du Commerce dans le cadre de l'Ordre Exécutif sur l'IA.

Les détails concernant les opérations et le financement de l'institut demeurent largement flous, NIST, comptant environ 3 400 employés et un budget annuel dépassant 1,6 milliard de dollars, étant confronté à un sous-financement chronique. Récemment, le Washington Post a fait état des installations détériorées de NIST, qui souffrent de problèmes tels qu'une toiture qui fuit et de moisissures noires.

Schumer a souligné l'importance du financement pour l'IA, le qualifiant de "forte avance" pour la mise en œuvre de l'ordre exécutif de l'administration Biden sur l'IA. Il a affirmé : "En tant que leader de la majorité, j'ai insisté sur le fait que notre gouvernement doit établir des garde-fous intelligents pour garantir que les États-Unis restent à la pointe de l'innovation tout en traitant les risques potentiels associés à l'intelligence artificielle. J'ai milité pour ce financement afin de prioriser l'innovation, la sécurité, la responsabilité et la transparence, soutenant ainsi l'industrie américaine et le progrès."

L'institut NIST sur l'IA se concentrera sur le développement de normes de sécurité, de sûreté et de test pour les modèles d'IA, l'authentification du contenu généré par l'IA et l'établissement d'environnements de test pour que les chercheurs évaluent les risques émergents de l'IA. L'institut collaborera avec un consortium de 200 entreprises et organisations dédiées à améliorer la sécurité et la responsabilité des systèmes d'IA.

Malgré ces avancées, des critiques ont été formulées concernant le financement et la transparence de NIST. En février, des membres du Comité scientifique de la Chambre ont exprimé des inquiétudes quant au manque de transparence de NIST dans une lettre soulignant l'absence d'un processus compétitif pour les subventions de recherche prévues liées à l'USAISI. Ces préoccupations portaient notamment sur un partenariat de recherche en IA proposé entre NIST et le RAND Corporation, un think tank influent ayant des liens avec des milliardaires de la technologie et l'industrie de l'IA.

Les législateurs ont noté : "L'état actuel du domaine de la recherche sur la sécurité de l'IA présente des défis pour NIST alors qu'il assume un rôle de leadership", ajoutant que les résultats dans ce domaine manquent souvent d'examen externe et révèlent des divergences significatives sur la portée et les définitions.

Rumman Chowdhury, qui a dirigé des initiatives sur l'IA chez Accenture et a été membre de l'équipe META de Twitter (maintenant X), a reconnu les problèmes de financement de l'USAISI. Elle a déclaré : "Un des aspects peu évoqués est qu'il s'agit d'un mandat non financé via l'ordre exécutif. Compte tenu de la polarisation actuelle dans la politique américaine, il est difficile de faire passer un projet de loi au Congrès, ce qui explique pourquoi cela a été fait par décret. Le problème demeure qu'il n'y a pas de financement pour cela."