OpenAI prend la tête du groupe C2PA pour l'authentification du contenu et étiquette les vidéos Sora comme générées par IA.

OpenAI rejoint la Coalition pour la Provenance et l'Authenticité du Contenu

OpenAI a annoncé son adhésion au comité directeur de la Coalition pour la Provenance et l'Authenticité du Contenu (C2PA), un groupe commercial fondé en février 2021 par Microsoft et Adobe, avec des membres notables tels qu'Arm, la BBC, Intel et Truepic.

Objectif de l'adhésion à la C2PA

OpenAI vise à aider les utilisateurs à vérifier les outils utilisés pour créer ou modifier du contenu numérique et à développer une technologie permettant d'identifier le contenu généré par ses outils. Cette collaboration avec d'autres acteurs de l'industrie, y compris des concurrents, cherche à créer des ressources pour étiqueter les images, vidéos et autres médias générés par l'IA, permettant ainsi aux spectateurs de retracer le contenu jusqu'à sa source et de le distinguer des images authentiques.

Que fait la C2PA ?

Fonctionnant sous la Joint Development Foundation à but non lucratif, la C2PA se concentre sur l'établissement de « spécifications techniques pour la provenance et l'authenticité du contenu ». Depuis sa création, l'organisation a intégré d'autres géants de la technologie, dont Google, à son comité. La C2PA a développé plusieurs normes open source permettant aux développeurs et aux entreprises de clarifier l'origine du contenu généré par l'IA.

Parmi les normes clés figure l'architecture C2PA, qui facilite le stockage et l'accès à des informations vérifiables par cryptographie, permettant aux utilisateurs d'évaluer la fiabilité du contenu selon un modèle de confiance défini.

Mise en œuvre des attestations de contenu

Les membres de la C2PA ont utilisé son architecture pour créer des « Attestations de Contenu », un petit filigrane « CR » qui aide les utilisateurs à identifier le créateur et les outils utilisés pour une image. Cette fonctionnalité permet d'interagir par survol ou appui pour fournir des informations plus détaillées. L'architecture C2PA peut également être intégrée aux métadonnées des fichiers multimédias numériques, garantissant leur accessibilité même hors ligne. OpenAI applique cette norme aux images générées par son modèle DALL-E 3 depuis février 2023. Meta a également commencé à étiqueter les images générées par l'IA en utilisant les normes C2PA.

Déclarations sur la collaboration industrielle

Anna Makanju, vice-présidente des affaires mondiales chez OpenAI, a souligné dans un communiqué de presse de la C2PA le rôle de l'organisation dans la promotion de normes communes autour de la provenance numérique. Elle a insisté sur le fait que contribuer à ces efforts est essentiel pour établir la confiance dans le contenu numérique rencontré en ligne.

Développements futurs avec Sora

Bien que non encore disponible au public, le modèle d'IA avancé d'OpenAI pour la création vidéo, Sora, mettra en œuvre les métadonnées C2PA pour étiqueter ses résultats comme générés par l'IA lors de son lancement auprès de partenaires de confiance, puis plus tard pour le grand public.

Programme de classification de détection DALL-E

OpenAI a également lancé le Programme d'Accès des Chercheurs pour la Classification de Détection DALL-E, qui présente un classificateur binaire pour prédire si une image est dérivée de son modèle DALL-E 3. OpenAI invite les laboratoires de recherche et les ONG de journalisme à postuler pour participer jusqu'au 31 juillet.

Lancement d'un fonds de résilience sociétale

En collaboration avec Microsoft, OpenAI établit un fonds de résilience sociétale de 2 millions de dollars pour améliorer l'éducation à l'IA pour les personnes âgées et celles peu familières avec la technologie. Cette initiative collabore avec des organisations telles qu'AARP, International IDEA, et Partnership on AI.

Ces annonces interviennent alors que des inquiétudes croissantes émergent concernant des images générées par l'IA induisant les utilisateurs en erreur sur des plateformes de médias sociaux comme Facebook. L'approche double d'OpenAI vise à traiter à la fois la génération de contenu et l'éducation.

Cependant, avec la prévalence des outils d'IA open source et la capacité à modifier des images, étiqueter de manière fiable le contenu généré par l'IA reste un défi constant. Néanmoins, les mesures proactives d'OpenAI signalent son engagement à être une entité socialement responsable dans le paysage évolutif du contenu numérique.