Un Outil de Filtrage d’Eau Précis pour ChatGPT : Pourquoi OpenAI a Choisi de ne Pas le Publier

Plagiaires de ChatGPT, prenez note : OpenAI a développé un outil capable de détecter les écrits générés par GPT-4 avec une précision impressionnante de 99,99 %. Cependant, la société réfléchit depuis plus d’un an à sa mise à disposition publique. Selon TechCrunch, OpenAI adopte une « approche réfléchie » en raison des complexités et des conséquences potentielles que cet outil pourrait avoir sur l'écosystème dans son ensemble. Un porte-parole d’OpenAI a souligné que « la méthode de filigrane textuel que nous développons montre un potentiel technique, mais nous pesons des risques significatifs, notamment la possibilité de contournement par des acteurs malveillants et l'impact disproportionné sur des groupes tels que les personnes ne parlant pas anglais. »

Le système de filigrane textuel intègre un motif spécifique dans les sorties du modèle, le rendant détectable par l'outil d’OpenAI mais invisible pour les utilisateurs. Bien qu'il puisse identifier efficacement le texte généré par son moteur GPT-4, il ne peut pas distinguer les sorties d'autres modèles d'IA tels que Gemini ou Claude. De plus, le filigrane peut facilement être effacé en traduisant le texte dans une autre langue, puis en le ramenant à la langue d'origine.

Ce n'est pas la première tentative d'OpenAI de développer un outil de détection textuelle. L'année dernière, l'entreprise a discrètement abandonné un projet similaire en raison de son taux de détection insatisfaisant et de sa tendance aux faux positifs. Lancé en janvier 2023, cet outil précédent exigeait des utilisateurs d'entrer au moins 1 000 caractères de texte pour analyse. Avec seulement 26 % de précision pour identifier correctement le contenu généré par IA, il a à tort marqué 9 % des contenus rédigés par des humains comme produits par IA, entraînant même l’échec d’un professeur de Texas A&M d’une classe entière pour usage présumé de ChatGPT dans les devoirs finaux. De plus, OpenAI craint les réactions des utilisateurs ; selon le Wall Street Journal, 69 % des utilisateurs de ChatGPT jugent cet outil peu fiable, de peur qu'il ne conduise à de fausses accusations de tricherie. Un autre 30 % a indiqué qu'il choisirait des modèles alternatifs si la fonction était mise en place par OpenAI. Des préoccupations subsistent également quant à la possibilité que des développeurs inversent le filigrane pour créer des outils contraires. Alors qu’OpenAI continue d'évaluer les avantages et les inconvénients du lancement de son système de filigrane, d'autres startups d'IA s'efforcent de lancer des outils de détection textuelle, notamment GPTZero, ZeroGPT, Scribbr et Writer AI Content Detector. Cependant, l'absence générale de précision dans ces outils signifie que l'œil humain reste notre méthode la plus fiable pour repérer le contenu généré par IA, ce qui n'est pas particulièrement rassurant.