« Nous, le peuple », devons prendre le contrôle de l’IA, et non les entreprises technologiques ou les élites politiques. Les récents incidents de Google avec son système Gemini soulignent cette urgence. Gemini ne parvient pas à classer les figures historiques de manière précise, affirmant que Hitler n'est pas pire que les tweets d'Elon Musk. Il évite de rédiger des documents politiques plaidant en faveur de l’utilisation des combustibles fossiles. De plus, il génère des images représentant de manière inexacte les Pères fondateurs de l’Amérique sous des races et des genres différents de ceux qu’ils étaient réellement.
Ces exemples peuvent sembler absurdes, mais ils préfigurent une dystopie où des bureaucrates non responsables dans des entreprises privées d'IA dictent les idées et les valeurs pouvant être exprimées. Cela devrait être inacceptable pour tous, quelle que soit leur idéologie.
Demander une intervention gouvernementale pour réglementer le discours de l'IA présente ses propres risques. Bien que la réglementation soit nécessaire pour la sécurité et l'équité de l'IA, une société libre doit résister à la tentation de laisser les gouvernements dicter quelles idées peuvent être exprimées ou supprimées.
Il est clair que ni les entreprises ni les entités gouvernementales ne devraient prendre ces décisions. Pourtant, à mesure que les utilisateurs se tournent vers les outils d'IA pour obtenir des informations et générer du contenu, leurs attentes concernant les valeurs que ces outils doivent refléter seront diverses.
Une solution viable existe : donner le pouvoir aux utilisateurs pour gouverner l'IA.
Stratégies pour l’Autonomisation des Utilisateurs dans l’IA
Au cours des cinq dernières années, j'ai collaboré avec l'industrie technologique en tant que politologue académique pour explorer des moyens d'autonomiser les utilisateurs dans la gestion des plateformes en ligne. Voici ce que j'ai appris sur la façon de placer efficacement les utilisateurs aux commandes de l'IA.
1. Garde-fous Définis par les Utilisateurs : Nous devrions créer un marché pour des modèles d'IA divers et affinés. Différents acteurs—journalistes, groupes religieux, organisations et individus—devraient avoir la possibilité de personnaliser et de sélectionner des versions de modèles open-source qui résonnent avec leurs valeurs. Cela réduirait la pression sur les entreprises pour qu'elles agissent comme des « arbitres de la vérité ».
2. Garde-fous Centralisés : Bien que l'approche du marché réduise certaines pressions, des garde-fous fondamentaux doivent néanmoins exister. Certains contenus—en particulier les matériaux illégaux ou les cas ambigus de satire, d'insultes ou d'images politiquement sensibles—exigent des normes unifiées à travers tous les modèles. Les utilisateurs devraient avoir leur mot à dire dans l'établissement de ces garde-fous centraux minimaux.
Certaines entreprises technologiques expérimentent déjà la démocratisation. Par exemple, Meta a lancé un forum communautaire en 2022 pour recueillir l'avis du public sur leur outil IA LlaMA, tandis qu’OpenAI a recherché des « contributions démocratiques à l’IA » et qu’Anthropic a publié une constitution co-créée par des utilisateurs.
3. Vraie Puissance Démocratique : Pour créer une structure démocratique solide, les utilisateurs devraient proposer, débattre et voter sur des questions importantes, avec leurs décisions contraignantes pour la plateforme. Bien que les propositions doivent être limitées afin d'éviter les violations légales, elles doivent néanmoins donner du pouvoir aux utilisateurs sur les garde-fous centraux.
Bien qu'aucune plateforme n'ait encore mis en œuvre un tel mécanisme de vote, des expériences en web3 offrent des idées précieuses. Voici quatre enseignements clés que les plateformes d'IA peuvent adopter :
- Enjeux de Vote Tangibles : Lier le pouvoir de vote à des jetons numériques ayant une utilité sur la plateforme, comme l'achat de temps de calcul IA.
- Vote Délégué : Les utilisateurs devraient déléguer leurs votes à des experts vérifiés qui expliquent publiquement leurs décisions.
- Récompenses pour la Participation : Encourager la participation active à la gouvernance en récompensant les utilisateurs avec des jetons supplémentaires pour un engagement significatif.
- Constitution Claire : Établir un cadre constitutionnel décrivant la portée des propositions, la distribution du pouvoir de vote et l'engagement de l'entreprise à renoncer au contrôle sur les garde-fous centraux.
Construire la Confiance dans les Systèmes d’IA
Les plateformes d'IA peuvent expérimenter ce modèle démocratique à petite échelle, en élargissant progressivement son impact. Pour réussir, les entreprises d'IA doivent s'engager à renoncer au contrôle sur les garde-fous centraux. Ce n'est qu'ainsi que la société pourra avoir confiance dans les informations et réponses fournies par ces outils, sans crainte de manipulation par des acteurs non responsables qui ne partagent pas les valeurs des utilisateurs qu'ils servent.
Classement
