Pourquoi éviter de se fier aux chatbots IA pour vos sources d'information

Un Rappel sur les Chatbots Alimentés par l'IA

Les chatbots alimentés par l'IA, comme ChatGPT, peuvent présenter avec assurance des informations fabriquées, tout comme un GPS qui vous dirigerait par erreur à travers un lac. Ce rappel s'appuie sur une expérience récente menée par Nieman Lab, qui visait à déterminer si ChatGPT pouvait fournir des liens précis vers des articles d'organisations d'information ayant des contrats lucratifs avec OpenAI.

Les résultats étaient préoccupants. Au lieu de fournir des URL correctes, ChatGPT a généré des liens entièrement fictifs menant à des pages d'erreur 404. Ce phénomène est souvent désigné dans l'industrie de l'IA par le terme « hallucination », qui décrit avec précision un système présentant des informations erronées avec confiance. Andrew Deck de Nieman Lab a demandé à ChatGPT de générer des liens vers des articles exclusifs de dix grands éditeurs. Les résultats ont reflété des tests antérieurs, notamment celui impliquant Business Insider, qui avait également produit des URL incorrectes.

Un représentant d'OpenAI a reconnu auprès de Nieman Lab que l'entreprise développe encore un système destiné à fusionner les capacités de l'IA conversationnelle et le contenu d'actualités en temps réel. Ce système vise à garantir une attribution correcte et des liens précis vers les matériaux sources, mais les détails sur le calendrier de sortie et la fiabilité restent flous.

Malgré ces incertitudes, les organisations de presse continuent de fournir un contenu substantiel aux modèles d'OpenAI contre rémunération, souvent au détriment de leur intégrité. Pendant ce temps, les entreprises d'IA exploitent du contenu non contracté provenant de diverses sources pour entraîner leurs modèles. Mustafa Suleyman, responsable de l'IA chez Microsoft, a décrit tout le contenu publié sur Internet comme un « freeware », renforçant ainsi une culture d'exploitation. La valorisation boursière de Microsoft s'élevait à 3,36 billions de dollars au moment de la rédaction.

Le message principal est clair : si ChatGPT fabrique des URL, il est également probable qu'il invente des faits. Au fond, l'IA générative fonctionne comme un système d'auto-complétion avancé, prédisant simplement le mot suivant dans une séquence sans véritable compréhension. Par exemple, lorsque j'ai testé les principaux chatbots pour résoudre le Spelling Bee du New York Times, ils ont rencontré de grandes difficultés. Cela indique qu'il est risqué, au mieux, de s'appuyer sur l'IA générative pour des informations factuelles.