Hoy, la administración Biden designó a Elizabeth Kelly, una clave asistente de la Casa Blanca que desempeñó un papel fundamental en la Orden Ejecutiva (EO) sobre IA del Presidente, como directora del recién establecido Instituto de Seguridad de IA de EE.UU. (USAISI) en el Instituto Nacional de Estándares y Tecnología (NIST). Elham Tabassi también fue nombrada directora de tecnología.
El NIST, parte del Departamento de Comercio de EE.UU., publicó en enero de 2023 un marco de gestión de riesgos de IA muy esperado y fue encargado de evaluar y auditar tecnologías de IA bajo la EO. Esto incluye el desarrollo de pautas para realizar pruebas de "red teaming" en IA, asegurando el despliegue de sistemas de IA seguros, confiables y en los que se puede confiar.
Estos nombramientos marcan el primer anuncio significativo sobre el USAISI desde su establecimiento en noviembre de 2023 para apoyar las responsabilidades descritas en la Orden Ejecutiva sobre IA. Sin embargo, los detalles sobre las operaciones y financiamiento del instituto siguen siendo escasos, especialmente dado que el NIST, que cuenta con aproximadamente 3,400 empleados y un presupuesto anual de poco más de $1.6 mil millones, enfrenta desafíos financieros.
Un grupo bipartidista de senadores solicitó $10 millones para establecer el USAISI dentro del NIST en la legislación de financiamiento federal 2024, aunque el estado de esta solicitud es incierto. Además, en diciembre, miembros del Comité de Ciencia de la Cámara criticaron al NIST por su falta de transparencia y por no anunciar un proceso competitivo para las subvenciones de investigación en IA relacionadas con el USAISI. Los legisladores expresaron su preocupación por una propuesta de asociación de investigación en IA entre el NIST y la Corporación RAND, un think tank vinculado a la industria tecnológica y al controvertido movimiento de "altruismo efectivo".
En su carta, los legisladores señalaron los desafíos en el campo de la investigación sobre seguridad en IA, afirmando que “los hallazgos dentro de la comunidad son a menudo autorreferenciales y carecen de la calidad que proviene de críticas externas.” También destacaron desacuerdos significativos sobre el ámbito y las definiciones dentro de la investigación sobre seguridad en IA.
Rumman Chowdhury, exjefa de IA en Accenture y del equipo META de Twitter, comentó sobre los nombramientos en el liderazgo del USAISI, señalando que, aunque hay una gran expectativa por actualizaciones sobre el NIST y el USAISI, el ritmo de comunicación es típico dado el exhaustivo proceso de verificación involucrado. Chowdhury expresó su confianza en la imparcialidad del NIST, afirmando: “Han estado haciendo este tipo de trabajo durante mucho tiempo... No son nombramientos, así que esto no está bajo el capricho de quien esté en el poder.”
Sin embargo, subrayó que la financiación sigue siendo un tema crítico para el USAISI. “Esto es un mandato no financiado a través de la orden ejecutiva,” explicó Chowdhury, señalando las dificultades para asegurar financiamiento legislativo en un clima político polarizado. Mientras el Reino Unido ha destinado $100 millones para la seguridad de la IA, el financiamiento en EE.UU. sigue siendo incierto.
Sobre la reciente solicitud de financiamiento del Senado, mencionó que estaba al tanto, pero no había visto indicios de que se hubiera recibido financiamiento. Chowdhury también destacó el Consorcio del Instituto de Seguridad de IA, que invita a las organizaciones a contribuir con su experiencia en gobernanza, seguridad y IA responsable. Las cuotas de membresía para el consorcio se establecen en $1,000 por año, aunque desconocía los planes del NIST respecto a las subvenciones para investigación.
Las solicitudes de financiamiento han persistido, con Anthropic abogando por $15 millones para apoyar las iniciativas de medición y estándares de IA del NIST desde abril de 2023. Esto fue visto como una solución directa para los responsables de políticas que buscan mantener el liderazgo de EE.UU. en el desarrollo de tecnologías críticas.
A pesar de estos desafíos, Chowdhury se mantiene optimista sobre el futuro del USAISI dentro del NIST. “Creo que Elham es una de las personas más sensatas que conozco... Necesitamos a alguien enfocado en hacer el trabajo,” dijo. También notó que la ubicación del USAISI dentro del NIST envía un mensaje positivo sobre la priorización de la integridad científica sobre la influencia política.
Clasificación
