Yann LeCun, científico jefe de IA de Meta, criticó públicamente el apoyo al controvertido proyecto de ley de seguridad de IA de California, SB 1047, el miércoles. Esta reprimenda siguió a la aprobación del legislador Geoffrey Hinton un día antes. Este desacuerdo entre pioneros de la IA destaca las divisiones significativas dentro de la comunidad sobre el futuro de la regulación de la IA.
La legislatura de California ha aprobado el SB 1047, que ahora espera la firma del gobernador Gavin Newsom. El proyecto ha generado un intenso debate sobre la regulación de la IA, proponiendo responsabilidad para los desarrolladores de modelos de IA a gran escala que causen daños catastróficos si no se implementan medidas de seguridad adecuadas. Se enfoca específicamente en modelos que costen al menos 100 millones de dólares para entrenar y en aquellos que operan dentro de California, la quinta economía más grande del mundo.
La Batalla de los Titanes de la IA: LeCun vs. Hinton en SB 1047
LeCun, figura clave en el aprendizaje profundo, sostiene que muchos de los partidarios del proyecto tienen una “visión distorsionada” de las capacidades de la IA. “Esta distorsión proviene de su inexperiencia, ingenuidad sobre los desafíos futuros y estimaciones exageradas del progreso de sus organizaciones”, publicó en X (anteriormente Twitter).
Sus comentarios se dirigieron directamente al respaldo de Hinton a una carta abierta, firmada por más de 100 empleados actuales y anteriores de importantes empresas de IA como OpenAI y Google DeepMind. Esta carta, presentada al gobernador Newsom el 9 de septiembre, le urgió a firmar el SB 1047, citando riesgos serios de modelos de IA potentes, incluida la posible explotación para armas biológicas y ciberataques a infraestructuras críticas.
Este conflicto público entre LeCun y Hinton ilustra las complejidades de regular una tecnología en rápida evolución. Hinton, quien dejó Google el año pasado para expresar sus preocupaciones sobre los riesgos de la IA, representa a quienes creen que los sistemas de IA podrían pronto crear amenazas existenciales. En contraste, LeCun argumenta que tales temores son prematuros y perjudiciales para la investigación abierta.
Dentro del SB 1047: El Proyecto de Ley Controversial que Redefine la Regulación de la IA
El debate sobre el SB 1047 ha interrumpido las alianzas políticas tradicionales. Entre sus notables partidarios se encuentra Elon Musk, a pesar de sus críticas previas al autor del proyecto, el senador estatal Scott Wiener. Por otro lado, los opositores incluyen a la expresidenta Nancy Pelosi y la alcaldesa de San Francisco, London Breed, junto a prominentes empresas tecnológicas y capitalistas de riesgo.
Anthropic, una empresa de IA que inicialmente se opuso al proyecto, cambió su postura tras las enmiendas, afirmando que “los beneficios del proyecto probablemente superen sus costos”. Este cambio subraya la naturaleza evolutiva de la legislación y las negociaciones continuas entre los legisladores y el sector tecnológico.
Los críticos sostienen que el SB 1047 podría ahogar la innovación y perjudicar a las empresas más pequeñas y a los proyectos de código abierto. Andrew Ng, fundador de DeepLearning.AI, argumentó en la revista TIME que el proyecto “comete el error fundamental de regular una tecnología de propósito general en lugar de sus aplicaciones”.
Sin embargo, los partidarios sostienen que los riesgos potenciales del desarrollo de IA no regulada superan con creces estas preocupaciones. Creen que el enfoque en modelos con un presupuesto superior a 100 millones de dólares asegura que afectan principalmente a grandes empresas bien dotadas de recursos, capaces de establecer medidas de seguridad robustas.
Silicon Valley Dividido: Cómo SB 1047 Divide al Mundo Tecnológico
La participación de empleados actuales de empresas que se oponen al proyecto revela desacuerdos internos sobre el equilibrio entre innovación y seguridad.
Mientras el gobernador Newsom evalúa la decisión de firmar el SB 1047, enfrenta una elección que podría definir la trayectoria del desarrollo de la IA en California y potencialmente en todo Estados Unidos. Con la Unión Europea avanzando en su Ley de IA, la decisión de California puede influir en si EE. UU. adopta un enfoque más proactivo o de laissez-faire hacia la regulación federal de la IA.
El choque entre LeCun y Hinton sirve como un microcosmos del amplio debate sobre la seguridad y regulación de la IA. Subraya el desafío que enfrentan los responsables de la política al crear legislación que aborde eficazmente las preocupaciones de seguridad sin obstaculizar el progreso tecnológico.
A medida que el campo de la IA evoluciona rápidamente, el resultado de esta batalla legislativa en California podría sentar un precedente crucial sobre cómo la sociedad maneja las promesas y peligros de los sistemas avanzados de inteligencia artificial. Observadores de la industria tecnológica, legisladores y el público estará atentos a la decisión del gobernador Newsom en las próximas semanas.
Clasificación
