« Légitimement Dangereux » : Les Résumés Inexactes de l’IA de Google Suscitent Moqueries et Inquiétudes

Devriez-vous ajouter de la colle à votre pizza ? Regarder le soleil pendant 30 minutes ? Manger des pierres ? Traiter les morsures de serpent avec de la glace ?

Selon la nouvelle fonctionnalité "Aperçu AI" de Google, ces suggestions dangereuses figurent parmi les premiers résultats de recherche.

Qu'est-ce que l'Aperçu AI de Google ?

En mai 2023, Google a lancé l’« Expérience Générative de Recherche » pour rivaliser avec ChatGPT d'OpenAI. Ce résumé d'informations clés, alimenté par l'IA, apparaît de manière privilégiée sous la barre de recherche, avant la liste traditionnelle de liens bleus. Initialement conçu comme une fonctionnalité optionnelle, il est devenu l'expérience par défaut pour tous les utilisateurs américains après avoir été rebrandé en Aperçus AI lors de la récente conférence I/O. Les utilisateurs peuvent toujours choisir de se désengager en basculant sur l’onglet « Web » lors de leurs recherches.

Pourquoi l'Aperçu AI de Google suscite-t-il la controverse ?

Depuis son lancement, de nombreux utilisateurs se sont exprimés sur X (anciennement Twitter) pour mettre en lumière les résultats préoccupants, souvent inexacts, générés par les Aperçus AI. Certains résultats trompeurs peuvent même être nuisibles ou provocateurs, entraînant des critiques de célébrités et d'autres utilisateurs. La mauvaise qualité des réponses générées par l'IA a engendré des mèmes et des blagues, se moquant de la fiabilité de Google.

Pour répondre à ces préoccupations, Google a qualifié la fonctionnalité d'Aperçu AI d'« expérimentale », précisant que l'exactitude des résultats peut varier. L'entreprise affirme que les retours utilisateurs et les examens humains guideront les améliorations du système.

Google va-t-il supprimer les Aperçus AI ?

Des appels à une réévaluation de la fonctionnalité des Aperçus AI ont émergé, notamment après des incidents passés où Google a suspendu des outils d'IA pour des résultats problématiques. Un porte-parole de l'entreprise a noté que les exemples les plus troublants partagés en ligne concernaient des « requêtes très rares » et que l'entreprise réagissait à ces incidents isolés en perfectionnant la fonctionnalité. Cependant, certains utilisateurs considèrent cela comme une excuse, remettant en question l'intégrité d'un système qui repose sur la génération de contenu à partir de sources précédemment indexées, y compris des fausses informations et de la satire.

Conclusion

Bien qu'il ne soit pas clair combien de recherches donnent des informations inexactes, l'Aperçu AI semble plus exposé aux sources peu fiables que la recherche traditionnelle Google. Les utilisateurs doivent faire preuve de prudence et vérifier les informations provenant de sources fiables avant d'agir en fonction de ces résultats générés par l'IA. Des alternatives comme Perplexity ont montré une plus grande précision en fournissant des informations dignes de confiance, soulignant un paradoxe pour Google, qui a été à l'avant-garde de la technologie derrière l'IA générative moderne.