Yann LeCun, scientifique en chef de l'IA chez Meta, a publiquement critiqué les partisans du projet de loi controversé sur la sécurité de l'IA en Californie, le SB 1047, mercredi. Cette réprimande a suivi l'approbation par Geoffrey Hinton de la législation, un jour plus tôt. Ce désaccord entre pionniers de l'IA met en lumière les divisions significatives au sein de la communauté concernant l'avenir de la régulation de l'IA.
Le législatif californien a adopté le SB 1047, en attente de la signature du gouverneur Gavin Newsom. Ce projet de loi a suscité un débat intense sur la régulation de l'IA, proposant la responsabilité des développeurs de modèles d'IA à grande échelle responsables de dommages catastrophiques en l'absence de mesures de sécurité appropriées. Il vise spécifiquement les modèles coûtant au moins 100 millions de dollars à entraîner et ceux opérant en Californie, cinquième économie mondiale.
La Bataille des Titans de l'IA : LeCun contre Hinton sur le SB 1047
LeCun, figure clé de l'apprentissage profond, soutient que de nombreux partisans du projet de loi ont une « vision déformée » des capacités de l'IA. « Cette distorsion provient de leur inexpérience, de leur naïveté face aux défis à venir et de leurs estimations gonflées des progrès de leurs organisations, » a-t-il publié sur X (anciennement Twitter).
Ses commentaires ont directement abordé le soutien de Hinton à une lettre ouverte, signée par plus de 100 employés actuels et anciens d'entreprises d'IA de premier plan comme OpenAI et Google DeepMind. Cette lettre, adressée au gouverneur Newsom le 9 septembre, l’a exhorté à signer le SB 1047, évoquant des risques sérieux liés à des modèles d'IA puissants, notamment la potentialité d'être exploités pour des armes biologiques et des cyberattaques contre des infrastructures critiques.
Cette rupture publique entre LeCun et Hinton illustre les complexités de la régulation d'une technologie en évolution rapide. Hinton, qui a quitté Google l'année dernière pour exprimer ses préoccupations concernant les risques de l'IA, représente ceux qui pensent que les systèmes d'IA pourraient bientôt engendrer des menaces existentielles. En revanche, LeCun soutient que ces craintes sont prématurées et nuisibles à la recherche ouverte.
Au Cœur du SB 1047 : Le Projet de Loi Controversé Transformant la Régulation de l'IA
Le débat autour du SB 1047 a perturbé les alliances politiques traditionnelles. Parmi les soutiens notables figure Elon Musk, malgré des critiques antérieures à l'encontre de l'auteur du projet de loi, le sénateur d'État Scott Wiener. En revanche, les opposants incluent Nancy Pelosi, présidente émérite, et la maire de San Francisco, London Breed, ainsi que des entreprises technologiques et des capital-risqueurs éminents.
Anthropic, une entreprise d'IA qui s'était initialement opposée au projet de loi, a changé de position après des amendements, affirmant que les « avantages du projet l'emportent probablement sur ses coûts. » Ce retournement souligne l'évolution de la législation et les négociations continues entre les législateurs et le secteur technologique.
Les critiques affirment que le SB 1047 pourrait freiner l'innovation et désavantager les petites entreprises et les projets open source. Andrew Ng, fondateur de DeepLearning.AI, a soutenu dans le magazine TIME que le projet de loi « fait l'erreur fondamentale de réguler une technologie à usage général plutôt que ses applications. »
Cependant, les partisans soutiennent que les risques potentiels du développement non régulé de l'IA l’emportent largement sur ces préoccupations. Ils estiment que le ciblage des modèles dépassant 100 millions de dollars de budget garantit que seules de grandes entreprises bien dotées, capables d'établir des mesures de sécurité robustes, sont affectées.
La Silicon Valley Divisée : Comment le SB 1047 Sépare le Monde Technologique
L'implication des employés actuels d'entreprises opposées au projet de loi révèle des désaccords internes au sein de ces organisations concernant l'équilibre entre innovation et sécurité.
Alors que le gouverneur Newsom pèse sa décision de signer le SB 1047, il fait face à un choix pouvant façonner l'orientation du développement de l'IA en Californie et potentiellement à travers les États-Unis. Avec l'Union européenne avançant dans son acte sur l'IA, la décision de la Californie pourrait influencer l'adoption par les États-Unis d'une approche plus proactive ou plus laxiste en matière de régulation fédérale de l'IA.
L'affrontement entre LeCun et Hinton constitue un microcosme du débat plus large sur la sécurité et la régulation de l'IA. Il souligne le défi auquel sont confrontés les décideurs pour élaborer une législation qui traite efficacement des préoccupations en matière de sécurité sans freiner le progrès technologique.
Alors que le domaine de l'IA évolue rapidement, l'issue de cette bataille législative en Californie pourrait établir un précédent crucial quant à la façon dont la société gère les promesses et les dangers des systèmes d'intelligence artificielle avancée. Les acteurs du secteur technologique, les décideurs et le public suivront de près la décision du gouverneur Newsom dans les semaines à venir.
Classement
