OpenAI reconnaît le développement de la technologie de filigrane pour le texte de ChatGPT face à des défis majeurs.

OpenAI Développe une Technologie de Filigrane Textuel pour Identifier le Contenu Généré par ChatGPT

Selon un rapport du Wall Street Journal, OpenAI a confirmé travailler sur un outil de haute précision pour identifier les textes générés par ChatGPT, bien que cette technologie ne soit pas encore officiellement lancée. L'entreprise reconnaît que le développement de la technologie de filigrane textuel rencontre de nombreux défis, mais elle reste déterminée à poursuivre ses recherches dans ce domaine.

L'essence du filigrane textuel réside dans sa capacité à détecter spécifiquement les textes attribuables à ChatGPT, contrairement aux contenus produits par d'autres modèles. OpenAI envisage d'atteindre cet objectif en ajustant subtilement le choix des mots générés par ChatGPT afin d'incorporer un filigrane invisible, qui pourra être détecté ultérieurement grâce à des outils spécialisés.

OpenAI a indiqué que le filigrane textuel n'est qu'une des nombreuses solutions qu'elle explore, aux côtés de classificateurs et de métadonnées, pour déterminer l'origine des textes. Toutefois, l'efficacité du filigrane pourrait diminuer de manière significative dans les cas de traduction, de réécriture ou d'insertion de caractères spéciaux. De plus, cette technologie pourrait avoir un impact disproportionné sur certains groupes, notamment les locuteurs non natifs d'anglais.

Compte tenu de ces complexités et des implications potentielles pour l'écosystème plus large, OpenAI a déclaré qu'elle procéderait avec prudence dans le développement de la technologie de traçage textuel, en priorité sur l'avancement des outils de vérification pour le contenu audiovisuel.