OpenAI Explore le Filigrane Textuel pour ChatGPT afin d'Identifier la Fraude Scolaire

En réponse à un rapport du Wall Street Journal suggérant qu'OpenAI a développé un outil capable d'identifier avec précision les essais générés par ChatGPT, l'entreprise a partagé des informations sur sa recherche concernant le marquage des textes. Le rapport indique que des discussions autour de la sortie de cet outil ont retardé sa disponibilité publique, bien qu'il soit apparemment "prêt".

OpenAI a déclaré : "Nos équipes ont développé une méthode de marquage des textes que nous continuons à évaluer tout en explorant d'autres alternatives." L'entreprise a expliqué que le marquage n'est qu'une des plusieurs approches, avec des classificateurs et des métadonnées, qu'elle examine dans le cadre de recherches approfondies sur la provenance des textes.

Bien qu'OpenAI affirme que la méthode de marquage a montré une grande précision dans certaines situations, elle rencontre des difficultés avec des manipulations spécifiques, telles que l'utilisation de systèmes de traduction, le reformulage avec différents modèles génératifs, ou l'insertion puis la suppression de caractères spéciaux entre les mots. De plus, OpenAI a souligné des préoccupations selon lesquelles le marquage pourrait avoir un impact disproportionné sur certains groupes d'utilisateurs, notant : "Par exemple, cela pourrait stigmatiser l'utilisation de l'IA en tant qu'outil d'écriture utile pour les non-natifs anglophones."

Dans son article de blog, OpenAI a souligné qu'elle considère attentivement ces risques potentiels. L'entreprise a également donné la priorité à la publication d'outils d'authentification pour le contenu audiovisuel. Un porte-parole d'OpenAI a précisé que l'entreprise adopte une "approche réfléchie" concernant la provenance des textes, en raison des complexités impliquées et de l'impact potentiel sur l'écosystème plus large au-delà de ses propres opérations.