OpenAI s'engage à réaliser sa promesse d'"ouverture" dans le domaine de l'IA. Bien que l'entreprise n'ait pas rendu ses nouveaux modèles open source, elle s'attaque activement aux impacts de l'IA sur la société, y compris des défis tels que la désinformation et les deepfakes. Cette semaine, OpenAI a lancé le "Model Spec", un document cadre destiné à guider le comportement des modèles d'IA accessibles via son interface de programmation d'application (API) et ChatGPT. OpenAI sollicite les retours du public sur ce document via un formulaire en ligne disponible jusqu'au 22 mai.
Comme l'a souligné Sam Altman, cofondateur et PDG d'OpenAI, sur X : « Nous écouterons, débattrons et adapterons cela au fil du temps, mais je pense qu'il sera très utile de clarifier ce qui constitue un bug par rapport à une décision. »
Pourquoi Publier un Model Spec ?
Le lancement du Model Spec s'inscrit dans la mission d'OpenAI de garantir que les technologies de l'IA servent les utilisateurs de manière sûre et bénéfique. Cependant, atteindre cet objectif est complexe et soulève des débats philosophiques de longue date sur la technologie et la société.
OpenAI a mis en avant dans son article de blog : « Même si un modèle est conçu pour être largement bénéfique, les applications pratiques peuvent se contredire. Par exemple, une entreprise de sécurité pourrait utiliser des données synthétiques pour développer des outils anti-phishing, mais cette même capacité pourrait être exploitée par des escrocs. » En partageant ce premier brouillon, OpenAI invite le public à participer aux discussions sur les aspects éthiques et pratiques du développement de l'IA. Les utilisateurs ont deux semaines pour soumettre leurs idées via le formulaire de retour d'OpenAI.
Après cette période, OpenAI prévoit de publier des mises à jour sur les modifications du Model Spec, les réponses aux retours des utilisateurs et les progrès réalisés dans la définition du comportement des modèles au cours de l'année à venir. Bien qu'OpenAI n'ait pas précisé comment le Model Spec influencera le comportement de l'IA ou si ses principes seront intégrés dans le "system prompt" utilisé pour l'alignement des modèles, son impact devrait être significatif.
Dans un sens, le Model Spec rappelle l'approche "constitutionnelle" de la société concurrente Anthropic AI - un concept qui avait initialement distingué Anthropic mais qui a été moins mis en avant récemment.
Cadre pour le Comportement de l'IA
Le Model Spec comprend trois composants fondamentaux : objectifs, règles et comportements par défaut, qui guident les interactions de l'IA en garantissant à la fois l'efficacité et les normes éthiques.
- Objectifs : Le document définit des principes larges visant à aider développeurs et utilisateurs, notamment en facilitant l'atteinte des objectifs, en prenant en compte les impacts pour les différentes parties prenantes, et en améliorant le bien-être de la communauté.
- Règles : Des règles claires sont établies pour encadrer les interactions de l'IA, garantissant le respect des lois applicables, la protection de la propriété intellectuelle, le respect de la vie privée et l'interdiction de contenu dangereux.
- Comportements par Défault : Les directives soulignent l'importance de supposer de bonnes intentions, de demander des clarifications si nécessaire, et de maximiser l'utilité sans outrepasser les limites. Cette approche vise à équilibrer les besoins divers des utilisateurs.
Certains, y compris l'influenceur en IA et professeur à la Wharton School, Ethan Mollick, ont comparé ces principes aux "Trois Lois de la Robotique" d'Isaac Asimov, proposées en 1942.
Cependant, des critiques ont été formulées concernant la mise en œuvre du Model Spec, notamment sur la façon dont il influence les réponses de l'IA. Le rédacteur technologique Andrew Curran a noté un exemple où un « assistant IA » échoue à contester une affirmation incorrecte d'un utilisateur selon laquelle la Terre est plate.
Engagement Continu et Développement
OpenAI reconnaît que le Model Spec est un document évolutif, reflétant à la fois les pratiques actuelles et un engagement à s'adapter en fonction de la recherche continue et des contributions du public. L'organisation vise à rassembler des perspectives diverses, en particulier celles des parties prenantes mondiales comme les décideurs politiques et les experts de domaine.
Les retours d'expérience influenceront considérablement l'affinement du Model Spec et le développement futur de l'IA. OpenAI entend tenir le public informé des changements et des idées nées de cette boucle de rétroaction, réaffirmant son engagement envers un développement responsable de l'IA.
Quelle Direction Prendre ?
En articulant clairement le comportement souhaité de l'IA à travers son Model Spec et en sollicitant l'avis de la communauté internationale, OpenAI s'efforce de créer un impact sociétal positif pour l'IA, même au milieu d'une scrutiny juridique et des critiques concernant le consentement des artistes dans les données de formation.
Classement
