La mission à but non lucratif d'OpenAI de développer l'AGI est-elle à nouveau sous le feu des critiques ?

Dans le récent procès intenté par Elon Musk contre OpenAI, le PDG Sam Altman et le président Greg Brockman, des termes clés tels que « nonprofit » apparaissent 17 fois, « board » 62 fois, et « AGI » de manière frappante 66 fois. Ce procès allègue une violation de contrat, une violation des devoirs fiduciaires et une concurrence déloyale, en affirmant qu'OpenAI a privilégié les profits et les intérêts commerciaux dans le développement de l'intelligence générale artificielle (AGI) au détriment de sa mission nonprofit d'agir pour le bien public sous sa direction nonprofit.

Ce conflit juridique a pris de l'ampleur suite au licenciement abrupt d'Altman par le conseil d'administration le 17 novembre 2023. Cette décision a provoqué une vive réaction des investisseurs, y compris Microsoft, et a poussé de nombreux employés d'OpenAI à exprimer leur solidarité avec Altman, entraînant son rétablissement rapide et le licenciement de plusieurs membres du conseil.

Les critiques soulignent que Musk, cofondateur d'OpenAI et concurrent de ses initiatives via sa startup X.ai, pourrait manquer d'objectivité. Toutefois, une question cruciale demeure : comment les problèmes de gouvernance liés à l'AGI ont-ils enflammé cette tempête juridique ?

La Structure Nonprofit d'OpenAI Sous Scrutin

Le procès détaille les origines d'OpenAI : Musk, Altman et Brockman ont fondé le laboratoire d'IA nonprofit en 2015 avec l'objectif de développer l'AGI « pour le bénéfice de l'humanité, et non pour des motifs lucratifs ». Cependant, Musk affirme qu'à partir de 2023, Altman et Brockman ont ignoré cet accord fondateur, commettant des « violations flagrantes » suite au licenciement d'Altman et à son rétablissement.

La structure unique d'OpenAI, à la fois nonprofit et à profit plafonné, complique la situation. Bien que la filiale à but lucratif soit « entièrement contrôlée » par l'entité nonprofit et doive respecter sa mission, le procès introduit un enchevêtrement d’entités, y compris OpenAI, Inc. (la nonprofit) et plusieurs filiales à but lucratif comme OpenAI, LP et OpenAI LLC.

Le Rôle de Microsoft En Tant que Membre Non-Votant du Conseil Nonprofit d'OpenAI

Comme souligné dans un précédent article, le conseil nonprofit d'OpenAI détermine quand l'AGI est atteinte — définie comme un système hautement autonome dépassant les humains dans des tâches économiques valorisées. Une fois l'AGI considérée comme atteinte, ses capacités tomberont en dehors du cadre des accords commerciaux de Microsoft, soulevant des questions sérieuses sur l'impartialité du conseil, surtout avec Microsoft en tant que membre non-votant.

Le procès de Musk soutient qu'Altman et Brockman ont conspiré avec Microsoft pour manipuler la composition du conseil, entraînant le licenciement de membres clés comme le scientifique en chef Ilya Sutskever. Il soutient que le nouveau conseil n'a pas suffisamment d'expertise en IA pour déterminer indépendamment quand l'AGI est atteinte, ce qui pourrait créer un conflit d'intérêt majeur.

Critique du Statut Nonprofit d'OpenAI

Musk n'est pas seul à remettre en question la désignation nonprofit d'OpenAI. Robert Weissman, président de Public Citizen, a exprimé des préoccupations sur l'intégrité opérationnelle d'OpenAI. Son organisation de défense a récemment demandé au procureur général de Californie d'enquêter sur une éventuelle déviation d'OpenAI de sa mission nonprofit sous l'influence de sa filiale axée sur le profit.

Les experts juridiques partagent également le point de vue de Musk. L'avocat James Denaro affirme que la transition d'une structure nonprofit conçue pour le bien public vers une entité à but lucratif pose un « changement de paradigme problématique » dans l'industrie technologique.

Anat Alon-Beck, spécialiste du droit des affaires, note que les problèmes structurels d'OpenAI ont joué un rôle significatif dans l'émergence de ce procès. Elle critique l'incertitude entourant les devoirs fiduciaires au sein du cadre inhabituel d'OpenAI. Alors que la relation entre OpenAI et Microsoft se renforce, des préoccupations émergent concernant la gouvernance et la conformité, attirant une attention croissante de la part des organismes de régulation.

En résumé, la structure complexe d'OpenAI et les défis de gouvernance qu'elle présente sont au cœur de ce litige juridique en cours, mettant en lumière les tensions entre les missions nonprofit et les pressions à but lucratif dans le paysage évolutif de l'intelligence artificielle.