Projet Strawberry d'OpenAI : Tous les Derniers Aperçus et Mises à Jour

OpenAI investit apparemment 7 milliards de dollars dans les coûts de formation et d'inférence, tout en faisant face à un déficit important de 5 milliards de dollars, dans sa quête pour réaliser son objectif ambitieux de créer la première Intelligence Artificielle Générale (AGI) au monde.

Qu'est-ce que le Projet Strawberry ?

Le Projet Strawberry est le dernier modèle de langage avancé d'OpenAI, qui devrait dépasser largement les capacités des systèmes les plus performants actuels grâce à ses compétences en raisonnement « semblables à celles d'un humain ». Ce modèle innovant pourrait devenir le moteur de la prochaine génération de ChatGPT.

Que peut faire Strawberry ?

Le Projet Strawberry est conçu pour être un moteur de raisonnement puissant. En combinant apprentissage par renforcement et raisonnement « en chaîne de pensée », ce nouveau modèle vise à résoudre des problèmes mathématiques sans précédent et à agir comme un agent autonome, élaborant des stratégies marketing et résolvant de manière indépendante des énigmes complexes comme celles du jeu Connections du NYT. Il peut même « naviguer de manière autonome sur Internet » pour effectuer « des recherches approfondies », selon des documents internes obtenus par Reuters en juillet.

Lors de son développement, le modèle o1-preview a été testé avec un examen de qualification pour les Olympiades Internationales de Mathématiques, où il a atteint une précision impressionnante de 83%—contre seulement 13% pour son prédécesseur, le GPT-4o. Dans des défis de codage, o1-preview s'est classé au 89ème percentile lors d'une compétition en ligne de Codeforces. Il est même capable de répondre à des questions complexes que d'autres modèles n'ont pas pu résoudre, comme « lequel est plus grand, 9.11 ou 9.9 ? » et « combien de ‘R’ y a-t-il dans le mot ‘Strawberry’ ? ».

De plus, l'architecture de Strawberry serait inspirée de la technique Self-Taught Reasoner (STaR) développée à Stanford en 2022, qui permet aux modèles de générer leurs propres données d'entraînement pour une amélioration continue.

Pourquoi s'appelle-t-il Strawberry ?

La raison derrière le nom « Strawberry » reste secrète, car OpenAI n'a pas divulgué sa signification. Ce nom de code a été choisi pour un usage interne afin de garantir la confidentialité durant le développement du modèle. Il a été évoqué pour la première fois dans un post énigmatique du PDG Sam Altman, suscitant de nombreuses spéculations en ligne.

Fait intéressant, Strawberry ne portait pas toujours ce nom. Initialement, il était désigné par Q (prononcé Q-Star), un élément clé des controverses entourant le licenciement d'Altman l'année dernière. Les chercheurs d'OpenAI avaient mentionné Q dans leur appel au conseil d'administration concernant les risques potentiels des systèmes avancés d'IA non régulés. Après le retour d'Altman chez OpenAI et la reprise de son influence, Q a été renommé Strawberry en juillet 2024.

Quand Strawberry sera-t-il lancé ?

OpenAI a présenté un aperçu du Projet Strawberry en septembre 2024, intitulé « o1-preview », ainsi qu'une version allégée nommée « o1-mini ».

À son lancement, cette nouvelle version a été immédiatement mise à la disposition des abonnés ChatGPT Plus et Teams, avec un accès supplémentaire pour les utilisateurs Enterprise et Edu la semaine suivante. OpenAI prévoit d'offrir finalement o1-mini aux utilisateurs du niveau gratuit ; cependant, aucun calendrier spécifique n'a été fourni.

Attendez, qu'est-ce que c'était que cette capacité à naviguer de manière autonome sur Internet ? N’est-ce pas ainsi que nous avons eu Ultron ?

Ultron a été créé par les illustrateurs Roy Thomas et John Buscema, mais les préoccupations concernant les IA avancées franchissant des territoires incontrôlables sont de plus en plus pertinentes. Des anciens chercheurs d'OpenAI ont exprimé des inquiétudes sur le développement d'AGI de l'entreprise, citant des protections insuffisantes.

Malgré ces préoccupations, OpenAI reste déterminé à atteindre l'AGI d'ici la prochaine décennie. Récemment, l'entreprise a introduit une échelle à cinq niveaux pour mesurer les capacités de ses systèmes d'IA tout en recherchant des financements supplémentaires—au-delà de Microsoft—dans un nouveau tour de financement dirigé par Thrive Capital, valorisant la société à plus de 100 milliards de dollars.