Comprendre la Superintelligence : Un Chemin vers l'Intelligence Collective
Le terme "superintelligence" est de plus en plus utilisé pour décrire des systèmes d'IA censés dépasser les capacités cognitives humaines dans diverses tâches, allant de la logique et du raisonnement à la créativité et à l'intuition. Ce qui semblait jadis une possibilité lointaine est désormais considéré comme réalisable dans moins d'une décennie, suscitant des préoccupations majeures parmi les décideurs et les chercheurs. Une préoccupation clé est la création d'une superintelligence artificielle (ASI) dépourvue de valeurs, de morales et d'objectifs humains.
Pour atténuer ce risque, certains chercheurs cherchent à concevoir des systèmes d'IA alignés sur les valeurs humaines. Par exemple, Anthropic développe une méthode appelée IA Constitutionnelle, qui établit un cadre de principes régissant le comportement de l'IA. Pendant ce temps, OpenAI adopte une stratégie nommée Superalignement, consacrant 20 % de sa puissance de calcul à cette problématique essentielle.
Cependant, cela soulève une question urgente : existe-t-il un chemin plus sûr vers la superintelligence ?
Je crois que oui : un concept connu sous le nom d'Intelligence Collective Supérieure (CSi). Mon orientation en tant que chercheur en IA ces dix dernières années s’est concentrée sur cette approche. La CSi vise à amplifier l'intellect humain en connectant de grands groupes en systèmes capables de résoudre des problèmes complexes de manière collaborative. Cette méthode garantit que les valeurs humaines et les considérations éthiques sont intégrées tout au long du processus décisionnel.
Bien que cela puisse sembler peu conventionnel, cela correspond à une étape évolutive naturelle observée dans de nombreuses espèces sociales, connue sous le nom d'Intelligence Collective. Ce phénomène permet aux bancs de poissons, aux essaims d'abeilles et aux volées d'oiseaux de naviguer efficacement dans leur environnement sans contrôle centralisé. Au lieu de s'appuyer sur des votes ou des sondages, ils forment des systèmes interactifs en temps réel (essaims) qui convergent vers des solutions optimales.
Si ce modèle fonctionne pour les poissons et les oiseaux, pourquoi pas pour les humains ?
Cette question a motivé ma recherche sur la possibilité pour les groupes humains de fonctionner comme des systèmes superintelligents. En 2014, j'ai fondé Unanimous AI pour émuler les essaims biologiques. Nos premières techniques utilisaient des méthodes non verbales, permettant à des centaines d'utilisateurs de répondre collaborativement à des questions en contrôlant un curseur graphique, tandis que des algorithmes d'IA analysaient leurs interactions pour mesurer leur degré de conviction.
Notre système générait efficacement des prévisions de groupe sur divers événements, même pour étonner les sceptiques. Par exemple, en 2016, une journaliste de CBS a demandé des prédictions pour le Kentucky Derby, et après avoir parié sur la prévision de notre groupe, elle a remporté un gain significatif—illustrant le potentiel de l'Intelligence Collective Supérieure. Des études académiques ultérieures ont validé les applications de l'IA des essaims dans divers domaines, de la prévision financière au diagnostic médical.
Malgré ces avancées, atteindre une véritable superintelligence restait insaisissable, les méthodes précédentes ne s'attaquant qu'à des problèmes étroits. Pour créer une superintelligence humaine complète, la technologie doit être adaptable afin de faciliter les délibérations sur des questions complexes—en utilisant l'outil humain le plus puissant : le langage.
Cependant, permettre à de grands groupes de s'engager dans des conversations cohérentes en temps réel présente des défis. Les recherches montrent que les tailles de groupe optimales pour des discussions productives varient de quatre à sept membres. Au-delà de cela, la dynamique conversationnelle tend souvent à se transformer d'un dialogue engagé en monologues fragmentés. Cette limitation semblait insurmontable jusqu'à ce que des développements récents en IA, notamment les grands modèles de langage (LLM), ouvrent de nouvelles possibilités pour la construction d'essaims humains.
Une nouvelle technologie appelée Intelligence de Conversation d'Essaim (CSI) promet de transformer la manière dont les groupes discutent de questions complexes en permettant à quasiment n'importe quelle taille de groupe (de 200 à 2 millions) de converser en temps réel, débloquant ainsi l'amplification naturelle typique de l'intelligence des essaims.
Inspirés par le mécanisme de communication des bancs de poissons, qui tiennent des "conversations" en temps réel parmi des milliers sans leader, nous avons adapté cette idée pour les humains. En utilisant un concept appelé hyperswarms, de grands groupes sont divisés en sous-groupes qui se chevauchent. Par exemple, un réseau de 1 000 individus peut être segmenté en groupes plus petits, facilitant des conversations parallèles qui renforcent la délibération réfléchie.
Pourtant, créer des groupes parallèles ne suffit pas pour atteindre l'Intelligence des Essaims ; il est nécessaire que l'information circule entre les sous-groupes. Cela est réalisé en intégrant des agents d'IA, qui imitent l'organe ligne latérale que l'on trouve chez les poissons. Alimentés par des LLM, ces agents observateurs distillent et transmettent des insights à l'ensemble de la population, garantissant la propagation des connaissances.
Des études récentes ont testé ce concept à travers une tâche d'estimation adaptée de l'expérience de Sir Francis Galton en 1906. Dans notre test, 240 participants ont estimé le nombre de billes dans un bocal. Leurs estimations individuelles divergent, entraînant une erreur moyenne de 55 %. En comparaison, la moyenne statistique agrégée a amélioré la précision à 25 %, tandis que l'estimation de ChatGPT s'est rapprochée avec une marge d'erreur de 42 %.
Plus remarquable encore, la méthode de l'essaim conversationnel a surpassé à la fois les individus et ChatGPT, atteignant un taux d'erreur remarquable de 12 %.
Classement
