OpenAI s'associe à Meta pour étiqueter les images générées par l'IA afin d'assurer la transparence.

OpenAI a annoncé une mise à jour de son application phare, ChatGPT, accompagnée du générateur d'images IA intégré, DALL-E 3. Cette mise à jour introduit un nouveau système de balisage de métadonnées qui permet aux utilisateurs et aux organisations d'identifier les images générées par l'IA.

Cette annonce intervient peu après l'initiative similaire de Meta, visant à étiqueter les images générées par l'IA créées avec son propre générateur, Imagine, disponible sur des plateformes comme Instagram, Facebook et Threads.

Selon OpenAI, les nouvelles métadonnées, basées sur les spécifications C2PA, permettront à tous—plateformes de contenu et distributeurs—de reconnaître les images générées par ses produits. La mise à jour est déjà disponible pour les utilisateurs web et sera déployée pour tous les utilisateurs mobiles d’ici le 12 février.

En outre, OpenAI a lancé un site appelé Content Credentials, où les utilisateurs peuvent télécharger des images pour vérifier leur statut de générées par l'IA, bien que cette fonctionnalité ne s'applique qu'aux images créées après cette date ; les images précédemment générées ne comprendront pas les nouvelles métadonnées.

Qu'est-ce que le C2PA ?

La Coalition for Content Provenance and Authenticity (C2PA) est une initiative collaborative créée en février 2021 pour établir des normes techniques visant à certifier la source et l'historique du contenu média. Financé par des entreprises de premier plan telles qu'Adobe, Microsoft et The New York Times, son objectif est de lutter contre la désinformation et la fraude en ligne. En janvier 2022, le C2PA a publié ses premières normes techniques pour l'intégration de métadonnées dans les images générées par l'IA, révélant leur origine dans certaines circonstances.

Des événements récents, tels que la diffusion de contenus deepfake non consensuels impliquant des célébrités et des utilisateurs de réseaux sociaux, soulignent l'urgence du travail du C2PA. OpenAI s'est engagée en début d'année à appliquer les normes du C2PA pour atténuer la désinformation à l'approche des élections de 2024.

Comment OpenAI met en œuvre le C2PA

OpenAI intègre des métadonnées—sous la forme d'une « signature » électronique—dans les fichiers d'images générées par l'IA. Cependant, la société reconnaît sur son site d'aide que ces métadonnées peuvent être supprimées par inadvertance ou délibérément. Par exemple, la plupart des plateformes de médias sociaux éliminent les métadonnées des images téléchargées, et des actions comme une capture d'écran peuvent les faire disparaître. Ainsi, l'absence de métadonnées n'indique pas de manière définitive si une image a été créée avec ChatGPT ou DALL-E 3.

De plus, ces métadonnées ne sont pas visibles pour les utilisateurs sans accéder à la description du fichier. En revanche, Meta développe un système d'étiquetage de l'IA à l'usage public qui comprend des identifiants visuels, comme un émoji étincelant, pour marquer clairement les images générées par l'IA. La fonctionnalité de Meta est encore en cours de conception et commencera à être déployée dans les mois à venir, s'appuyant sur les normes C2PA aux côtés de la norme IPTC Photo Metadata.

Cette initiative souligne l'engagement des deux entreprises envers la transparence et l'authenticité dans le contenu généré par l'IA, reflétant les préoccupations croissantes liées à la désinformation et à l'intégrité numérique.