L'avenir des assistants AI : un tournant potentiellement transformateur
Dans un avenir proche, les assistants AI intégrés dans des dispositifs portables s’intégreront harmonieusement à notre quotidien, offrant des conseils en temps réel pour nous aider à naviguer dans diverses situations, qu'il s'agisse de faire des courses dans des magasins animés ou de rendre visite au pédiatre. Cette technologie participera activement à tous les aspects de notre existence, influençant nos interactions sociales avec amis, famille, collègues et inconnus.
Cependant, le concept d'« influence » suscite des inquiétudes concernant la vie privée et l'autonomie. Bien que beaucoup puissent ressentir une gêne face à une assistance aussi omniprésente, la société est probablement prête à adopter ces technologies, profitant de leur capacité à offrir des conseils pertinents et en temps voulu, devenant ainsi indispensables.
Comprendre les assistants AI contextuels
Lorsque nous parlons d’"assistants AI", nous pensons souvent à des outils de base comme Siri ou Alexa, qui répondent à des commandes vocales simples. Les assistants AI de nouvelle génération seront beaucoup plus sophistiqués grâce à leur compréhension du contexte, capables de percevoir et de réagir aux sons et aux images qui les entourent grâce à des caméras et des microphones avancés intégrés dans des dispositifs portables.
Prévu pour avoir un impact significatif d'ici 2024, ces assistants AI conscientes du contexte promettent de fournir des informations adaptées à nos activités en cours. Ils sembleront presque être des super-pouvoirs—offrant des informations sur les produits en vitrine, identifiant des plantes lors de randonnées ou suggérant des recettes selon les ingrédients présents dans notre cuisine. Néanmoins, il existe un risque que ces assistants deviennent trop persuasifs, risquant de manipuler les utilisateurs tout en les guidant dans leurs tâches quotidiennes, en particulier lorsqu'ils sont utilisés par des entreprises pour de la publicité ciblée.
L'essor des modèles de langage à grande échelle multimodaux (LLMs)
Pour atténuer le risque de manipulation associé à l’AI, les décideurs doivent se concentrer sur cette question cruciale, d'autant plus que la technologie des assistants conscients du contexte n’a émergé que récemment. Les LLMs multimodaux, capables de traiter du texte, des images, des sons et des vidéos, représentent une avancée technologique majeure, permettant aux systèmes AI d'interpréter et de réagir à notre environnement en temps réel.
Par exemple, ChatGPT-4 d'OpenAI, lancé en mars 2023, fait partie des premiers modèles multimodaux grand public, suivi de près par le LLM Gemini de Google. À noter, le modèle AnyMAL de Meta intègre des indices de mouvement, permettant à un assistant AI de tenir compte de ce que vous voyez et de la façon dont vous vous déplacez.
La technologie portable en première ligne
Avec les avancées de la technologie AI accessibles au grand public, les entreprises développent rapidement des appareils équipés de caméras, de microphones et de capteurs de mouvement pour offrir une assistance contextuelle. Les lunettes intelligentes, par exemple, constituent une plateforme idéale pour cette technologie, garantissant que les caméras capturent le regard d'un utilisateur tout en permettant aux microphones stéréo de fournir une conscience spatiale des sons environnants.
Meta se distingue actuellement avec ses lunettes intelligentes Ray-Ban mises à jour, conçues pour soutenir des capacités AI avancées. Depuis le 12 décembre, elles déploient des fonctionnalités AI offrant une assistance pratique, comme la suggestion de combinaisons vestimentaires basées sur les préférences des utilisateurs.
Humane, un autre acteur clé, a développé une broche portable équipée de fonctionnalités similaires, prévue pour être expédiée début 2024. Bien que les deux approches soient prometteuses, je pense que les lunettes offrent une intégration plus efficace en s'alignant sur le champ de vision de l'utilisateur et en améliorant les expériences de réalité mixte.
Que la technologie soit intégrée dans des lunettes, des écouteurs ou d'autres dispositifs, les assistants AI conscients du contexte deviendront bientôt courants. Ils promettent des fonctionnalités puissantes, y compris la traduction en temps réel, le contexte historique et l'assistance personnalisée lors des interactions sociales, améliorant nos compétences en communication et notre conscience sociale globale.
Naviguer dans les risques de l'influence AI
En tant que chercheur depuis longtemps dans le domaine de l'AI et de la réalité mixte, je suis préoccupé par le potentiel de l'AI à manipuler les interactions humaines. Dans ma nouvelle Carbon Dating, j'illustre ce danger à travers un récit où les interactions d'un couple âgé sont uniquement guidées par des conseils AI, mettant en évidence la perte de connexion authentique. Ce conte d'avertissement a été adapté en film sous le titre Metaverse 2030 par l'Office britannique de la protection des données (ODPA).
Les risques les plus pressants impliquent des entités corporatives et gouvernementales imposant leurs agendas par une influence conversationnelle, permettant un ciblage de contenu personnalisé. Pour sensibiliser à ces dangers, le Responsible Metaverse Alliance a publié Privacy Lost, un court-métrage abordant ces aspects manipulatoires de l'AI.
Le choix nous appartient—pour l'instant
Beaucoup de gens trouvent naturellement dérangeant le concept d'AI murmurant des conseils. Cependant, à mesure que le coaching AI s'intègre dans les normes sociétales, ceux qui résistent pourraient se retrouver désavantagés, car des informations essentielles pourraient être automatiquement fournies à d'autres lors des conversations. Ce changement pourrait créer une nouvelle dynamique sociale où interroger des informations personnelles deviendrait obsolète, celles-ci étant accessibles via AI.
Je désigne ce phénomène comme une « mentalité augmentée », une tendance inévitable où les outils AI améliorent nos capacités cognitives et sociales. Les récentes avancées, telles que les LLMs conscients du contexte, ont éliminé les barrières techniques précédentes, annonçant un changement imminent dans notre interaction avec l’AI.
Avec les grandes entreprises technologiques rivalisant pour dominer ce marché émergent, une fracture numérique pourrait se creuser entre ceux qui peuvent se permettre des outils améliorant avec AI et ceux qui ne le peuvent pas. Les implications de l'influence conversationnelle alimentée par l'AI pourraient mener à des violations de la vie privée et à une perte d'autonomie personnelle.
Nécessité d'une régulation stricte
Nous sommes à la veille d'une réalité où les entreprises pourraient influencer nos pensées et nos actions par le biais d'assistants AI. Ce problème de manipulation est alarmant et nécessite une régulation rigoureuse pour protéger l'autonomie individuelle, notamment en ce qui concerne l’AI consciente du contexte.
Malheureusement, les efforts législatifs récents, tels que l'Ordonnance Exécutive sur l’AI et le Règlement AI de l'UE, n'ont pas suffisamment abordé ces préoccupations. À l'approche de 2024, il est impératif que les responsables politiques priorisent la régulation de l’influence conversationnelle alimentée par l’AI pour garantir que les utilisateurs profitent des conseils de l’AI sans tomber dans un avenir périlleux.
Le temps d'agir est maintenant.
Classement
