Administración Biden Lanza Consorcio del Instituto de Seguridad en IA de EE. UU.
Tras la designación de un alto asesor de la Casa Blanca como director del recién creado Instituto de Seguridad en IA de EE. UU. (USAISI) en el Instituto Nacional de Estándares y Tecnología (NIST), la Administración Biden presentó el Consorcio del Instituto de Seguridad en IA de EE. UU. (AISIC), anunciado como “el primer consorcio dedicado a la seguridad en IA”.
Esta colaboración cuenta con más de 200 organizaciones miembros, incluidos gigantes tecnológicos como Google, Microsoft y Amazon, así como destacados referentes en modelos de lenguaje de gran tamaño (LLM) como OpenAI, Cohere y Anthropic. El consorcio también incluye laboratorios de investigación, equipos académicos, organizaciones de la sociedad civil, gobiernos estatales y locales, y organizaciones sin fines de lucro.
Según un artículo del blog del NIST, el AISIC representa la mayor reunión de equipos de evaluación y prueba hasta la fecha, con el objetivo de establecer una ciencia de medición fundamental en la seguridad en IA. Operando bajo el USAISI, el consorcio apoyará iniciativas clave enunciadas en la Orden Ejecutiva del Presidente Biden, que incluyen el desarrollo de pautas para pruebas de ataque, evaluaciones de capacidades, gestión de riesgos, protocolos de seguridad y marca de contenido sintético.
Detalles de la Formación
El anuncio del consorcio se realizó el 31 de octubre de 2023, junto con la Orden Ejecutiva de IA del Presidente Biden. El sitio web del NIST indicó que la participación está abierta a organizaciones que puedan contribuir con experiencia, productos, datos o modelos. Los participantes seleccionados deberán pagar una cuota anual de $1,000 e ingresar en un Acuerdo de Investigación y Desarrollo Cooperativo del Consorcio (CRADA) con el NIST.
Pautas para la Seguridad en IA
Los miembros del consorcio se centrarán en varias pautas clave:
1. Crear herramientas y mejores prácticas para desarrollar y desplegar IA de manera segura y confiable.
2. Establecer directrices para identificar y evaluar capacidades de IA potencialmente dañinas.
3. Promover prácticas de desarrollo seguro para IA generativa y abordar modelos de base de doble uso, asegurando un aprendizaje automático que respete la privacidad.
4. Proporcionar recursos para crear y mantener entornos de prueba.
5. Desarrollar prácticas para pruebas de ataque efectivas y técnicas de aprendizaje automático que preserven la privacidad.
6. Diseñar herramientas para autenticar contenido digital.
7. Definir criterios para las habilidades necesarias en la fuerza laboral de IA, incluyendo identificación, gestión, prueba y validación de riesgos.
8. Explorar la interacción entre la sociedad y la tecnología, enfocándose en cómo las personas interactúan con la IA en diversos contextos.
9. Ofrecer orientación sobre la gestión de interdependencias entre entidades de IA a lo largo de su ciclo de vida.
Incertidumbres sobre Financiamiento
A pesar del anuncio, persisten preguntas sobre el financiamiento del USAISI. Los informes indican que desde el anuncio inicial de la Casa Blanca en noviembre, se han compartido pocos detalles sobre la estructura operativa o las fuentes de financiamiento, especialmente dado el presupuesto anual del NIST de más de $1.6 mil millones y sus conocidas limitaciones de recursos.
En enero, un grupo bipartidista de senadores solicitó $10 millones al Comité de Apropiaciones del Senado para ayudar a establecer el USAISI, pero el estado de esta solicitud de financiamiento sigue siendo incierto. Además, legisladores del Comité de Ciencia de la Cámara expresaron preocupaciones sobre la transparencia del NIST y la falta de un proceso competitivo para otorgar fondos de investigación relacionados con el nuevo instituto.
Hablando sobre los desafíos de financiamiento, Rumman Chowdhury, figura destacada en ética de IA, anteriormente en Accenture y Twitter, subrayó que el USAISI opera bajo un mandato no financiado a través de una orden ejecutiva. Ella expresó su comprensión de las complejidades políticas que obstaculizan la acción legislativa, a la vez que destacó la significativa falta de financiamiento para la iniciativa.
Clasificación
