El Primer Ministro del Reino Unido, Rishi Sunak, enfatizó la necesidad de tener una perspectiva equilibrada sobre la inteligencia artificial (IA) mientras se prepara para la próxima Cumbre de Seguridad de IA los días 1 y 2 de noviembre. Hablando en la Royal Society, la principal institución científica del país, reconoció los riesgos significativos asociados con la IA, particularmente su posible uso indebido por actores maliciosos. Sin embargo, advirtió contra una postura excesivamente alarmista.
“Actualmente, las entidades que desarrollan IA son también las responsables de probar su seguridad, y a menudo carecen de una comprensión completa de las capacidades futuras de sus modelos,” comentó Sunak. “Existen incentivos convincentes para competir creando los modelos más avanzados rápidamente, lo que nos lleva a cuestionar si debemos confiar en ellos para evaluar sus propios resultados.”
Sunak se opuso a medidas regulatorias apresuradas que podrían sofocar la innovación, afirmando: “¿Cómo podemos crear leyes efectivas en torno a algo que no comprendemos plenamente? En su lugar, estamos fomentando capacidades de clase mundial dentro del gobierno para entender y evaluar la seguridad de los modelos de IA.” El enfoque del gobierno británico hacia la legislación sobre IA ha sido notablemente menos estricto en comparación con la Unión Europea, delineando sus requisitos en un documento blanco y delegando la creación de normas a los reguladores en dominios específicos.
En junio, durante la conferencia AI Summit London, el ministro de IA del país indicó que las regulaciones futuras complementarán las normas técnicas y las técnicas de aseguramiento, lo que sugiere mejoras potenciales en la supervisión.
Un Enfoque Colaborativo para la Seguridad de la IA
Sunak expresó su intención de trabajar de manera colaborativa con otras naciones en la seguridad de la IA, en lugar de adoptar una postura adversarial. Este espíritu colaborativo se subraya con la invitación extendida a China para la cumbre, a pesar de las tensiones existentes con EE. UU. Subrayó la importancia de involucrar diversas perspectivas, afirmando: “Una estrategia seria para la IA debe incluir diálogos con todas las potencias líderes en IA en el mundo.”
China ha implementado regulaciones estrictas para sus empresas de IA, requiriendo una revisión de seguridad por parte del organismo nacional de supervisión de datos antes de que nuevos modelos de IA generativa puedan ser lanzados al público. No obstante, el gobierno chino ha expresado su disposición a participar en discusiones internacionales sobre la supervisión de la IA, aunque el presidente Xi Jinping ha enfatizado un enfoque en la seguridad nacional.
El Viceprimer Ministro, Oliver Dowden, confirmó que China aceptó la invitación a la cumbre, aunque señaló la necesidad de esperar la confirmación de todos los participantes potenciales.
Sunak busca que la cumbre cultive un entendimiento compartido de los riesgos de la IA y busca un consenso sobre la primera declaración internacional respecto a estos desafíos. Vislumbra el establecimiento de un “panel de expertos verdaderamente global” sobre IA, compuesto por nominaciones de los países y organizaciones asistentes, encargado de publicar un informe integral sobre el 'Estado de la Ciencia de la IA'.
“Nuestro éxito depende de la colaboración con las empresas de IA. A medida que la tecnología avanza, debemos asegurar que nuestra comprensión colectiva de los riesgos se adapte en paralelo,” afirmó. Esta iniciativa se alinea con los llamados de figuras destacadas, incluido el Secretario General de la ONU, António Guterres, para crear un organismo regulador global que supervise la seguridad de la IA, similar a la Agencia Internacional de Energía Atómica (AIEA).
Perspectivas y Preocupaciones de la Industria
Mientras Sunak promueve la visión del Reino Unido como una potencia líder en IA, el gobierno ha asignado 120 millones de dólares a un grupo que asesorará sobre asuntos de IA, con el galardonado con el Premio Turing, Yoshua Bengio, entre sus miembros. La cumbre contará con destacados líderes de la industria, incluidos el CEO de OpenAI, Sam Altman, y el CEO de Google DeepMind, Demis Hassabis, junto a políticos de alto perfil como la Vicepresidenta de EE. UU., Kamala Harris.
Maya Dillon, Jefa de IA en Cambridge Consultants, destacó la necesidad de cooperación en medio de la revolución de la IA, afirmando: “El desafío no es solo adoptar la IA, sino dirigir su curso de manera reflexiva. Esta revolución debe entrelazar el éxito empresarial con el bienestar social, lo que requiere una colaboración genuina.”
Paul Henninger, Jefe de Tecnología Conectada en KPMG Reino Unido, indicó que, si bien la cumbre podría despertar estrategias de evaluación de riesgos colaborativas, las organizaciones también esperarán actualizaciones regulares a medida que la tecnología continúe evolucionando.
A pesar de los ambiciosos objetivos establecidos para la cumbre, Chris Royles, CTO de EMEA en Cloudera, consideró que la búsqueda de regulaciones integrales es una aspiración elevada. Sugerió que las empresas deberían concentrarse en entrenar sus modelos de IA con fuentes de datos confiables. De manera similar, Fabien Rech, Gerente General en Trellix, abogó por priorizar medidas de seguridad en el desarrollo de IA para fortalecer la confianza y proteger contra amenazas cibernéticas.
Destacando los Riesgos de la IA
Antes del discurso de Sunak, el gobierno británico publicó un documento que delineaba los posibles riesgos de la IA, que incluía:
- Daños Sociales: La generación de desinformación y deepfakes, interrupciones laborales debido a la automatización y sesgos algorítmicos que podrían llevar a resultados injustos.
- Riesgos de Uso Indebido: El potencial de que las tecnologías de IA faciliten la creación de armas o mejoren la efectividad de ciberataques y esfuerzos de desinformación.
- Riesgos de Pérdida de Control: Preocupaciones sobre la posible renuncia de las personas a la toma de decisiones por sistemas de IA desalineados y agentes avanzados que busquen aumentar su influencia.
El informe también esbozaba desafíos omnipresentes que podrían aumentar estos riesgos, como las complejidades de diseñar sistemas de IA seguros, evaluar su seguridad y garantizar la responsabilidad en su implementación.
En respuesta al informe, Sjuul van der Leeuw, CEO de Deployteq, elogió el enfoque serio del gobierno británico hacia la seguridad de la IA, reconociendo las importantes oportunidades que la IA ofrece en diversas industrias, bajo la condición de una regulación y orientación efectiva por parte de los formuladores de políticas.
Clasificación
