Comprendre l'incertitude de la loi européenne sur l'IA : Perspectives sur la controverse OpenAI

La loi sur l'IA de l'UE, qui devrait être une législation phare, fait actuellement face à des incertitudes en raison de différends sur la réglementation des modèles fondamentaux, tels que les modèles d'IA à grande échelle comme GPT-4, Claude et Llama.

Récemment, les gouvernements français, allemand et italien ont plaidé pour une régulation limitée de ces modèles, une initiative largement attribuée à un lobbying significatif de la part des grandes entreprises technologiques et des sociétés open source comme Mistral, conseillées par Cédric O, ancien ministre français du numérique. Les critiques affirment que cette approche pourrait compromettre l’intégrité de la loi sur l'IA de l'UE.

Les partisans d'une réglementation plus stricte des modèles fondamentaux ont réagi avec vigueur. Une coalition d'experts en IA allemands et internationaux, dont les chercheurs de renom Geoffrey Hinton et Yoshua Bengio, a récemment publié une lettre ouverte en appelant le gouvernement allemand à ne pas exempter ces modèles de la loi sur l'IA de l'UE, avertissant qu'une telle exemption mettrait en péril la sécurité publique et nuirait aux entreprises européennes.

En outre, des experts français ont apporté leur contribution à la discussion par une tribune conjointe dans Le Monde, exprimant une forte opposition aux tentatives de Big Tech de diluer cette législation cruciale lors de ses phases finales.

Pourquoi la loi sur l'IA de l'UE rencontre-t-elle une résistance à ce stade avancé ? Plus de deux ans et demi après la proposition du projet initial et suite à de longues négociations, la loi est maintenant en phase de trilogue, où les législateurs de l'UE finalisent les détails du projet. La Commission européenne espère faire adopter la loi sur l'IA d'ici la fin de 2023, avant les élections du Parlement européen en 2024.

Les turbulences récentes chez OpenAI offrent un aperçu des dynamiques internes influençant ces discussions. Suite à un bouleversement au sein du conseil d'administration, où le PDG Sam Altman a été brièvement remercié, les opinions divergentes au sein de l'organisation reflétaient le débat plus large sur la réglementation de l'IA dans l'UE. Certains membres du conseil privilégiaient les opportunités commerciales et le développement de l'intelligence artificielle générale (AGI), tandis que d'autres exprimaient de profondes inquiétudes sur les implications en matière de sécurité des technologies à haut risque.

Les membres du conseil prônant la prudence étaient liés au mouvement de l'altruisme efficace, qui a également été influent dans le lobby autour de la loi sur l'IA de l'UE. Des rapports indiquent que cette communauté a consacré d'importantes ressources pour sensibiliser aux risques existentiels posés par l'IA.

À l'inverse, Big Tech, incluant OpenAI, a activement fait pression contre des réglementations strictes. Sam Altman, tout en plaidant publiquement pour une gouvernance mondiale de l'IA, a cherché à atténuer certaines dispositions des réglementations proposées par l'UE afin de réduire le fardeau de la conformité pour son entreprise.

Gary Marcus a souligné ces développements, affirmant que le chaos chez OpenAI met en avant la nécessité d'une surveillance rigoureuse plutôt que de permettre à Big Tech de s'auto-réguler. Il soutient l'approche échelonnée du Parlement européen, en affirmant que réduire des éléments clés de la loi sur l'IA de l'UE à un exercice d'auto-réglementation aurait de graves conséquences mondiales.

Brando Benifei, un négociateur clé du Parlement européen, a fait écho à ce sentiment, déclarant que l'imprévisibilité des actions d'Altman illustre les dangers de compter sur des accords industriels volontaires.

La loi sur l'IA de l'UE est-elle réellement en danger ? Selon le consultant allemand Benedikt Kohn, les négociations en cours sont cruciales, le prochain trilogue étant prévu pour le 6 décembre. Il avertit qu'un échec à atteindre un accord pourrait gravement compromettre les aspirations de l'UE en tant que leader mondial en matière de réglementation de l'IA.