OpenAI a annoncé le lancement de l'entraînement de son dernier "modèle de pointe" et a créé un nouveau Comité de Sécurité et de Protection. Ce comité est présidé par le membre du conseil Bret Taylor, aux côtés de membres éminents tels qu'Adam D’Angelo, Nicole Seligman et Sam Altman, l'actuel CEO d'OpenAI.
Dans un article de blog récent, OpenAI a déclaré :
"OpenAI a récemment commencé l'entraînement de son prochain modèle de pointe, visant à améliorer nos capacités en vue de l'Intelligence Artificielle Générale (AGI). Bien que nous soyons fiers de fournir des modèles de premier plan axés à la fois sur la performance et la sécurité, nous encourageons une discussion ouverte à ce moment crucial."
Lancement d'un Chronomètre de 90 Jours
OpenAI a précisé les responsabilités immédiates du comité :
"La première mission du Comité de Sécurité et de Protection sera d'évaluer et de peaufiner les processus et les mesures de sécurité d'OpenAI dans les 90 jours suivant sa création. À la fin de cette période, le comité présentera ses recommandations au conseil d'administration complet. Par la suite, OpenAI communiquera publiquement les recommandations adoptées en adéquation avec les protocoles de sécurité."
Cela indique que le nouveau modèle de pointe—potentiellement nommé GPT-5—ne sera pas lancé avant au moins 90 jours, permettant au comité suffisamment de temps pour évaluer les processus et protections existants. Par conséquent, le conseil devrait recevoir ces recommandations d'ici le 26 août 2024.
Pourquoi 90 Jours ?
Bien qu'OpenAI n'ait pas précisé la raison de ce calendrier, 90 jours est une pratique commerciale conventionnelle pour l'évaluation et le retour d'information, offrant un délai équilibré ni trop court ni trop long.
Préoccupations concernant l'Indépendance du Comité
La création de ce nouveau comité a suscité des critiques, ses membres étant principalement des cadres d'OpenAI, soulevant des inquiétudes concernant l'indépendance des évaluations de sécurité.
La composition du conseil d’OpenAI a été historiquement problématique. Dans un retournement inattendu le 17 novembre 2023, l'ancien conseil d'administration de la société à but non lucratif a renvoyé Altman, affirmant qu'il n'était "pas constamment franc." Cela a entraîné une forte réaction des employés et des critiques de grands investisseurs, y compris Microsoft, qui a rétabli Altman quatre jours plus tard. L'ancien conseil a été critiqué pour sa composition exclusivement masculine et a été restructuré par la suite.
Le 8 mars de cette année, de nouveaux membres ont rejoint le conseil, dont Sue Desmond-Hellmann et Fidji Simo, dans le cadre d'efforts visant à diversifier son leadership.
Défis et Opportunités pour OpenAI
OpenAI a récemment lancé son dernier modèle d'IA, GPT-4o, mais a fait face à des critiques suite à cette sortie. L'actrice Scarlett Johansson a publiquement condamné l'entreprise pour avoir prétendument utilisé une voix IA ressemblant à la sienne, liée à son rôle dans le film "Her." OpenAI a clarifié que la voix en question avait été commandée indépendamment et n'était pas destinée à imiter Johansson.
De plus, la démission du scientifique en chef Ilya Sutskever et du co-responsable de l'équipe de superalignement a suscité des inquiétudes, ce dernier soulignant une tendance préoccupante à privilégier des "produits attrayants" au détriment de la sécurité. L'équipe de superalignement a finalement été dissoute.
Malgré ces défis, OpenAI a réussi à établir de nouveaux partenariats dans les médias traditionnels pour ses données d'entraînement et a suscité l'intérêt pour son modèle de génération vidéo Sora, attirant l'attention de l'industrie du divertissement alors qu'elle cherche à tirer profit de l'IA pour une plus grande efficacité en matière de production.
Alors qu'OpenAI navigue dans ces eaux turbulentes, l'efficacité du nouveau Comité de Sécurité et de Protection sera cruciale pour répondre aux préoccupations des parties prenantes, en particulier parmi les régulateurs et les partenaires commerciaux potentiels, avant le lancement de son prochain modèle.
Classement
