La semaine dernière, un porte-parole d'OpenAI m'a informé du lancement d'une nouvelle équipe dédiée à l'« Alignement Collectif ». Sa mission est de développer des « processus de prototypage » intégrant les contributions du public pour façonner le comportement des modèles d'IA, avec pour objectif une gouvernance démocratique de l'IA. Cette initiative s'appuie sur le travail de dix lauréats du programme de subventions « Contributions Démocratiques à l'IA » d'OpenAI.
Je n'ai pu m'empêcher de sourire face à l'ironie. OpenAI proclame des idéaux ambitieux de « création d'une AGI sûre au service de toute l'humanité » tout en naviguant dans les réalités commerciales des API, de l'expansion des boutiques GPT et des procès liés aux droits d'auteur. Le défi d'atteindre un consensus public sur la gouvernance de l'IA—l'une des questions les plus complexes de notre époque—semble intimidant.
Est-ce le bon moment pour les agents d'IA ? La démocratie américaine est sous un examen sans précédent, avec des systèmes d'IA au cœur des préoccupations concernant les deepfakes et la désinformation, surtout à l'approche des élections de 2024. Comment un concept aussi subjectif que l'opinion publique peut-il influencer les règles régissant l'IA, en particulier pour une entreprise qui domine actuellement l'espace de l'IA commerciale ?
Cependant, l'existence de l'équipe d'Alignement Collectif d'OpenAI offre une lueur d'espoir. Leur objectif de créer une IA plus démocratique, guidée par l'intuition humaine, est indéniablement significatif. Néanmoins, il est légitime de se demander si cette initiative est un effort sincère ou simplement une manœuvre de relations publiques en réponse aux appels à une plus grande responsabilité.
Perspectives de l'Équipe d'Alignement Collectif
Pour approfondir, j'ai discuté avec deux membres de l'équipe : Tyna Eloundou, chercheuse axée sur les impacts sociétaux de la technologie, et Teddy Lee, chef de produit expérimenté en étiquetage des données humaines pour le déploiement responsable de l'IA. Ils visent à renforcer leur équipe en ajoutant un ingénieur de recherche et un scientifique pour collaborer étroitement avec l'équipe des Données Humaines d'OpenAI, qui établit une infrastructure pour la collecte des contributions humaines sur les modèles d'IA.
Lorsque j'ai interrogé Eloundou sur les défis de la formulation de processus démocratiques pour la gouvernance de l'IA, elle a reconnu que beaucoup considèrent cela comme un « défi audacieux ». « La démocratie elle-même est complexe et chaotique », a-t-elle expliqué. « Elle nécessite une négociation constante sur son fonctionnement. »
Lee a souligné la tâche colossale d'intégrer la démocratie dans les systèmes d'IA face aux complexités sociotechniques. « L'objectif de notre programme de subventions est d'explorer les initiatives d'autres innovateurs dans ce domaine », a-t-il noté. « C'est intimidant, mais il y a beaucoup de gains rapides à réaliser et d'idées à découvrir. »
Avancement du Programme de Subventions
Selon un récent article de blog d'OpenAI, le programme de subventions « Contributions Démocratiques à l'IA » a accordé 100 000 dollars à dix équipes diversifiées sur près de 1 000 candidatures. Ces équipes conçoivent et testent des méthodes démocratiques pour établir la gouvernance de l'IA. Elles affrontent des défis tels que l'engagement de participants divers, l'assurance de résultats représentatifs et la promotion de la transparence.
Chaque équipe a abordé ces problèmes avec des approches innovantes, y compris des plateformes pour des audits participatifs de modèles d'IA et des interfaces uniques de délibération vidéo. Cependant, elles ont rapidement rencontré des obstacles, car l'opinion publique peut évoluer rapidement, et parvenir à un accord entre des groupes polarisés est difficile.
Malgré ces défis, l'équipe d'Alignement Collectif d'OpenAI reste engagée. Elle consulte des experts en sciences sociales, en particulier ceux impliqués dans les assemblées citoyennes—des groupes aléatoires qui délibèrent sur des questions publiques significatives.
Un Engagement en Faveur des Processus Démocratiques
Lee a remarqué : « Nous ne savons pas ce que nous ignorons. » Les lauréats viennent de divers domaines, insufflant excitation et énergie à leurs projets. « Nous devons aligner cet enthousiasme avec notre technologie », a-t-il déclaré.
Les objectifs de l'équipe sont-ils réalisables ? « Cela reflète la démocratie elle-même », a expliqué Lee. « C'est un effort continu. À mesure que les opinions publiques évoluent et que les interactions avec ces modèles changent, notre travail l'est également. »
Eloundou a partagé ce sentiment, affirmant : « Nous allons certainement donner le meilleur de nous-mêmes. »
Qu'elle soit perçue comme une initiative de relations publiques ou non, toute démarche visant à renforcer les processus démocratiques dans la prise de décision de l'IA est louable, surtout à une époque où ces processus sont précaires. Alors, à OpenAI : j'accueille vos meilleurs efforts.
Classement
