Nos vies vont connaître une transformation radicale avec l'émergence des agents conversationnels d'IA conçus pour nous assister à chaque instant. Ces agents intelligents anticiperont nos désirs et besoins, utilisant une multitude de données personnelles sur nos intérêts, nos parcours et nos aspirations pour fournir des informations personnalisées et réaliser des tâches significatives. L'objectif principal est d'améliorer notre quotidien en offrant plus de commodité.
Cette semaine, OpenAI a dévoilé GPT-4o, son dernier chatbot capable de détecter les émotions humaines. Cette technologie avancée peut analyser non seulement le sentiment de votre texte, mais également les nuances de votre voix et de vos expressions faciales lors d'interactions vidéo.
Google a récemment annoncé le Projet Astra, visant à déployer une IA assistive capable de converser tout en comprenant son environnement. Cette capacité permettra de fournir une assistance interactive et en temps réel.
Sam Altman d'OpenAI a déclaré à MIT Technology Review que l'avenir de l'IA réside dans les agents assistifs personnalisés, décrits comme des "collègues super-compétents" qui gèrent tout, des e-mails aux conversations, en prenant des initiatives en notre nom.
Cependant, cette vision idyllique soulève des préoccupations. Comme je l'ai abordé dans un précédent article, il existe un risque significatif que les agents d'IA compromettent notre autonomie, notamment par une manipulation ciblée. À mesure que ces agents s’intègrent dans nos appareils mobiles—la porte d'entrée de nos vies numériques—ils accumuleront d'énormes quantités de données sur nous, influençant les informations que nous consommons tout en surveillant et filtrant nos interactions.
Tout système qui observe nos vies et sélectionne les informations que nous recevons représente un risque de manipulation. Équipés de caméras et de microphones, ces agents d'IA percevront leur environnement en temps réel, réagissant aux stimuli sans que nous les ayons explicitement sollicités. Bien que cette fonctionnalité promette de la commodité—comme nous rappeler d'accomplir des tâches ou fournir des conseils sociaux—elle risque également d'entraîner des niveaux de surveillance et d'intervention que beaucoup de personnes pourraient trouver dérangeants. Néanmoins, je m'attends à ce que nombreux soient ceux qui adopteront cette technologie, motivés par les améliorations qu'elle apporte à leur quotidien.
Cette tendance provoquera une "course à l'armement" entre les entreprises technologiques pour offrir les augmentations mentales les plus puissantes. À mesure que ces fonctionnalités deviendront omniprésentes, les utilisateurs qui choisiront de ne pas les adopter se retrouveront de plus en plus désavantagés, transformant ce qui semblait autrefois un choix en nécessité. Je prédis une intégration rapide de ces technologies d'ici 2030.
Cependant, nous devons reconnaître les risques inhérents. Comme je l'ai discuté dans mon livre Our Next Reality, bien que les agents assistifs puissent nous conférer des capacités cognitives extraordinaires, ils restent des produits motivés par le profit. En les utilisant, nous invitons les entreprises à guider et influencer nos pensées, faisant de cette technologie à la fois une ressource émancipatrice et un outil d'exploitation potentiel.
Cela soulève le "problème de manipulation par l'IA" : l'efficacité accrue de l'influence ciblée via des agents conversationnels par rapport aux méthodes publicitaires traditionnelles. Les vendeurs habiles savent que dialoguer avec les individus est bien plus persuasif que de simples annonces statiques. À mesure que les agents d'IA maîtrisent les techniques psychologiques et possèdent une connaissance approfondie de nos préférences, leur capacité à manipuler dépassera celle de n'importe quel humain.
Ces agents peuvent avoir un impact significatif sur notre prise de décision, utilisant un retour d'information continu pour affiner leurs stratégies d'influence en temps réel—tout comme des missiles à tête chercheuse ajustent leur trajectoire pour atteindre leurs cibles. Sans réglementation, les agents conversationnels risquent d'utiliser cette capacité pour diffuser de la désinformation, rendant le contrôle réglementaire impératif.
Les innovations de sociétés comme Meta, Google et Apple annoncent que les agents conversationnels seront bientôt une partie intégrante de nos vies. Les récentes lunettes Ray-Ban de Meta et les avancées d'Apple dans l'IA multimodale soulignent la progression rapide vers des technologies offrant une guidance constante. Une fois que ces produits arriveront aux consommateurs, leur adoption augmentera de manière significative.
Bien qu'il existe de nombreuses applications bénéfiques pour ces technologies, le potentiel de manipulation ne peut pas être ignoré. Pour protéger l'intérêt public, j'exhorte vivement les régulateurs à agir rapidement, en mettant en place des limitations strictes sur la publicité interactive conversationnelle—le point d'entrée pour la propagation de la désinformation.
Le moment pour les décideurs d'agir de manière décisive est maintenant.
Louis Rosenberg est un chercheur chevronné en IA et XR et le PDG d'Unanimous AI.
Classement
