Deux mois après son bref licenciement et sa réembauche par le conseil d'administration d'OpenAI, le PDG Sam Altman a adopté une vision visiblement plus tempérée concernant l'émergence de l'intelligence générale artificielle (AGI) lors du Forum économique mondial à Davos, en Suisse. En conversant avec le PDG de Microsoft, Satya Nadella, et la rédactrice en chef de The Economist, Zanny Minton Beddoes, Altman a déclaré : « Je ne pense pas que quiconque convienne encore de ce que signifie l'AGI. » Il a précisé qu'une fois l'AGI atteinte, il pourrait y avoir une panique initiale, mais finalement, « les humains retourneront à des activités humaines. » Il a décrit l'AGI comme un processus « étonnamment continu », suggérant des améliorations constantes plutôt qu'une percée soudaine, en indiquant qu'« chaque année, nous proposons un nouveau modèle [qui est] beaucoup mieux que l'année précédente. »
Auparavant, Altman avait exprimé ses réflexions lors d'une discussion organisée par Bloomberg, notant que bien que l'AGI puisse émerger dans un « avenir raisonnablement proche », son impact « changera le monde beaucoup moins que ce que nous pensons tous et affectera les emplois beaucoup moins que nous ne le pensons. »
Dans un billet de blog de février 2023 intitulé « Planification pour l'AGI et au-delà », Altman avait souligné les dangers potentiels de l'AGI, avertissant qu'« une AGI superintelligente mal alignée pourrait causer des dommages graves. » Il a mis en garde contre les menaces similaires représentées par un régime autoritaire doté de superintelligence. Néanmoins, il a également dressé un tableau optimiste, affirmant que l'AGI pourrait considérablement faire progresser l'humanité en augmentant l'abondance économique et en accélérant les découvertes scientifiques.
Les opinions d'Altman sur l'AGI ont évolué, ses récents propos marquant un changement par rapport à son ancienne position plus alarmante. Il avait précédemment évoqué les capacités étendues de l'IA, suggérant qu'elle pourrait bientôt surpasser l'intelligence humaine en matière de persuasion, entraînant des scénarios inattendus.
Les dernières remarques d'Altman s'alignent sur un conseil d'administration d'OpenAI récemment restructuré. Suite à son bref évincement, le conseil a connu des changements significatifs, perdant des membres particulièrement axés sur la surveillance des risques liés à l'AGI. Le nouveau conseil comprend des figures notables comme l'ancien secrétaire au Trésor Larry Summers et l'ancien co-PDG de Salesforce Bret Taylor, aux côtés de Microsoft, qui occupe désormais un siège sans droit de vote.
Lors des discussions à Davos, Zanny Minton Beddoes a interrogé Altman sur la charte d'OpenAI, qui déclare que le conseil déterminera quand l'AGI sera atteinte et que la commercialisation post-AGI ne suivra plus les accords existants. Altman a répondu de manière décontractée, suggérant que le rôle du conseil est de reconsidérer les implications de ses décisions au fur et à mesure que les circonstances évoluent.
Nadella a souligné la nécessité d'efforts conjoints pour garantir que les futurs développements de l'AGI produisent des résultats positifs tout en atténuant les conséquences inattendues. Il a noté que l'intérêt mondial pour la gouvernance de l'AGI augmente, indiquant que divers acteurs, y compris les gouvernements et la société civile, joueront des rôles cruciaux dans la définition de son avenir.
Minton Beddoes a réitéré ses préoccupations concernant les éventuelles surprises du conseil d'administration d'OpenAI, auxquelles Altman a répondu avec une remarque légère sur l'apprentissage des expériences passées lorsque les enjeux étaient plus bas.
Ces développements suggèrent que la conversation autour de l'AGI évolue, les acteurs clés comme Altman et Nadella naviguant dans les complexités de son impact futur sur la société et l'économie.
Classement
