El gobernador de California, Gavin Newsom, ha vetado el SB 1047, un proyecto de ley diseñado para prevenir el mal uso de la inteligencia artificial (IA) que podría causar "daños críticos" a los seres humanos. La Asamblea Estatal de California aprobó la legislación el 28 de agosto con una votación de 41-9, pero organizaciones como la Cámara de Comercio instaron al gobernador a rechazarla.
En su mensaje de veto, fechado el 29 de septiembre, Newsom reconoció que, si bien el proyecto de ley tiene buenas intenciones, no considera factores críticos como la implementación de la IA en entornos de alto riesgo y el manejo de datos sensibles. En cambio, señaló que impone estándares estrictos incluso a funciones básicas de IA dentro de grandes sistemas.
El SB 1047 buscaba responsabilizar a los desarrolladores de modelos de IA por la implementación de protocolos de seguridad para evitar resultados catastróficos. Las medidas de seguridad requeridas incluían pruebas rigurosas, evaluaciones externas de riesgos y una función de "parada de emergencia", con sanciones que comenzaban en $10 millones por violaciones iniciales y escalaban a $30 millones por infracciones posteriores. Sin embargo, la versión revisada eliminó la capacidad del fiscal general del estado para demandar a las empresas de IA por negligencia a menos que ocurriera un evento catastrófico, limitando las acciones legales a medidas cautelares.
La legislación tenía como objetivo regular los modelos de IA con un costo operativo mínimo de $100 millones y capacidades de entrenamiento de 10^26 FLOPS. También habría afectado a proyectos desarrollados con inversiones significativas de terceros que superaran los $10 millones. Cualquier empresa que operara en California tendría que cumplir con las estipulaciones del proyecto de ley si cumplía con estos criterios.
Newsom expresó su preocupación por el enfoque limitado del proyecto de ley en los sistemas de IA a gran escala, afirmando: "No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología." Advirtió que esta énfasis podría crear una falsa sensación de seguridad, ya que modelos más pequeños y especializados podrían presentar riesgos equivalentes, si no mayores, mientras ahogan la innovación beneficiosa para el público.
La versión anterior del SB 1047 proponía la creación de una División de Modelos Fronterizos para regular las tecnologías de IA. Sin embargo, el proyecto fue modificado para colocar la supervisión bajo una Junta de Modelos Fronterizos en la Agencia de Operaciones del Gobierno, con miembros designados por el gobernador y la legislatura.
El SB 1047, redactado por el senador estatal Scott Wiener, enfrentó una oposición significativa de la comunidad tecnológica. Investigadores destacados en IA, como Geoffrey Hinton y Yoshua Bengio, apoyaron la iniciativa, expresando preocupaciones sobre los peligros de la IA. Wiener enfatizó la importancia de medidas proactivas, afirmando: "No esperemos a que ocurra algo malo."
En su mensaje de veto, Newsom reafirmó el compromiso del estado con la seguridad, insistiendo: "California no abandonará su responsabilidad. Deben adoptarse protocolos de seguridad, y las consecuencias para los actores malintencionados deben ser aplicables." Abogó por un marco regulatorio que evolucione en paralelo con los avances en IA.
El proyecto recibió un considerable rechazo por parte de líderes y organizaciones tecnológicas, incluidos la investigadora Fei-Fei Li y el científico jefe de IA de Meta, Yann LeCun, quienes lo criticaron por su potencial para obstaculizar la innovación en IA. Grupos comerciales tecnológicos, que representan a grandes empresas como Amazon, Apple y Google, advirtieron que el SB 1047 podría frenar nuevos desarrollos en el sector tecnológico de California. Además, la firma de capital de riesgo Andreessen Horowitz, junto con varias startups, planteó preocupaciones sobre las implicaciones financieras para los innovadores en IA, lo que llevó a enmiendas en la versión del SB 1047 que avanzó a través del Comité de Apropiaciones de California el 15 de agosto.
Clasificación
