El Departamento de Estado de EE. UU. ha publicado un informe crucial advirtiendo que el avance rápido de la inteligencia artificial (IA) podría representar "amenazas de nivel de extinción". Titulado "Plan de Acción para Mejorar las Medidas de Seguridad para la IA Avanzada", el informe destaca los riesgos potenciales que la IA supone para la seguridad nacional.
El documento fue elaborado de forma colaborativa por ejecutivos de destacadas empresas de IA como OpenAI, Meta, Google y DeepMind, en conjunto con funcionarios gubernamentales, involucrando a más de 200 expertos. Se insta al gobierno de EE. UU. a tomar medidas rápidas implementando restricciones y regulaciones necesarias. Las recomendaciones clave incluyen declarar ilegales ciertos modelos de IA de código abierto, ya que se consideran amenazas potenciales a la seguridad global. Además, el informe sugiere que las empresas de IA deben obtener aprobación antes de entrenar nuevos modelos para garantizar su seguridad y control.
Este informe ha generado una amplia atención y debate, influyendo probablemente en el desarrollo y aplicación futura de la IA. A medida que la tecnología de IA evoluciona rápidamente, la sociedad debe considerar cuidadosamente cómo gestionar y regularla de manera efectiva para garantizar que beneficie a la humanidad y mejore la seguridad.