Le Conseil d'OpenAI : Naviguer à travers les Défis de la Sécurité de l'IA et les Conflits Internes | L'Actualité de l'IA

Vacances, schmavances — pendant que je profite d'une pause de l'autre côté de l'Atlantique, une agitation majeure secoue OpenAI, difficile à ignorer. Plus de 500 employés d'OpenAI ont signé une lettre menaçant de quitter pour Microsoft aux côtés de Sam Altman, à moins que le conseil d'administration à but non lucratif d'OpenAI ne démissionne et ne le réinvestisse en tant que PDG.

En réfléchissant aux événements récents, j'ai publié lundi dernier un article sur le conseil d'administration inhabituel, composé de six membres, qui a le pouvoir de déterminer quand l'organisation atteindra une intelligence générale artificielle (AGI). Ce conseil contrôle l'aspect lucratif de l'entreprise et inclut plusieurs membres liés au mouvement de l'altruisme efficace.

Vendredi dernier, le chaos a éclaté lorsque le conseil d'administration d'OpenAI a renvoyé le PDG Sam Altman et nommé la CTO Mira Murati comme PDG par intérim. Greg Brockman, ancien président du conseil, a également démissionné. Dans mon post sur Substack, intitulé « J'ai passé le week-end dernier à écrire sur le conseil d'administration à but non lucratif d'OpenAI — désormais au cœur du renvoi de Sam Altman », j'ai mis en lumière comment la mission du conseil de favoriser la sécurité de l'IA a contribué à le renvoi d'Altman et au départ de Brockman.

Puis est survenu un tournant dramatique. Après des réactions négatives d'investisseurs tels que Microsoft, des discussions ont débuté pour rétablir Altman. Une photo de lui avec un badge de visiteur à OpenAI HQ a circulé, et des emojis cœur ont inondé les réseaux sociaux alors que les employés exprimaient leur soutien.

Dans un rebondissement inattendu, le PDG de Microsoft, Satya Nadella, a annoncé qu'Altman et Brockman dirigeraient une nouvelle unité de recherche en IA chez Microsoft, avec des offres pour tout employé d'OpenAI souhaitant les rejoindre. Le conseil d'administration d'OpenAI a encore compliqué la situation en remplaçant Murati par Emmett Shear, ancien PDG de Twitch, comme nouveau PDG par intérim.

Des rapports ont révélé que de nombreux employés d'OpenAI étaient éveillés tard dans la nuit à discuter de la façon de réagir au renvoi d'Altman, frustrés par le manque de communication entourant cette décision. Des messages comme « OpenAI n'est rien sans ses employés » sont apparus sur X, soulignant la forte volonté du personnel de rejoindre Microsoft, renforcée par l'engagement du conseil d'assurer des postes garantis dans la nouvelle unité.

Ironiquement, la décision du conseil d'administration de renvoyer Altman au nom de la sécurité de l'IA a engendré un tumulte significatif, risquant de saper sa mission et de miner la confiance des employés. Le manque de clarté a rendu OpenAI plus vulnérable et pourrait entraver son objectif de créer une AGI sécurisée à long terme.

Le scientifique en chef Ilya Sutskever a exprimé ses regrets dans un post sur X, déclarant : « Je regrette profondément ma participation aux actions du conseil. Je n'ai jamais voulu nuire à OpenAI. J'aime tout ce que nous avons construit ensemble, et je ferai tout pour réunir l'entreprise. »

Au final, ces événements montrent que des erreurs humaines peuvent compromettre des objectifs ambitieux. Bien que la technologie puisse continuer d'avancer, le besoin d'une gouvernance solide et d'une communication claire au sein d'OpenAI n'a jamais été aussi évident. L'entreprise pourrait désormais être confrontée à une crise, signalant la nécessité de changements substantiels à l'avenir.