A OpenAI anunciou uma atualização para seu aplicativo principal, o ChatGPT, juntamente com o gerador de imagens AI integrado, DALL-E 3. Essa atualização apresenta novas etiquetas de metadados que permitem a usuários e organizações identificar imagens geradas por IA.
Esse anúncio ocorre logo após a iniciativa similar da Meta, que visa rotular imagens de IA criadas com seu gerador separado, Imagine, disponível em plataformas como Instagram, Facebook e Threads.
De acordo com a OpenAI, os novos metadados, baseados nas especificações C2PA, permitirão que qualquer um—incluindo plataformas de conteúdo e distribuidores—reconheça imagens geradas por seus produtos. A atualização já está disponível para usuários da web e será implementada para todos os usuários móveis até 12 de fevereiro.
Além disso, a OpenAI lançou um site chamado Content Credentials, onde os usuários podem enviar imagens para verificar seu status de geração por IA. No entanto, esse recurso aplica-se apenas a imagens criadas após hoje; imagens geradas anteriormente não incluirão os novos metadados.
O que é C2PA?
A Coalition for Content Provenance and Authenticity (C2PA) é uma iniciativa colaborativa estabelecida em fevereiro de 2021 para desenvolver padrões técnicos que certifiquem a fonte e a história do conteúdo midiático. Financiada por empresas renomadas, como Adobe, Microsoft e The New York Times, sua missão é combater a desinformação e fraudes de conteúdo online. Em janeiro de 2022, a C2PA lançou seus padrões técnicos iniciais para incorporar metadados em imagens geradas por IA, revelando sua origem em determinadas circunstâncias.
Eventos recentes, incluindo a disseminação de conteúdos deepfake não consensuais envolvendo celebridades e usuários de redes sociais, enfatizaram a urgência do trabalho da C2PA. A OpenAI, no início deste ano, comprometeu-se a aplicar os padrões C2PA para mitigar a desinformação antes das eleições de 2024.
Como a OpenAI está Implementando o C2PA
A OpenAI está incorporando metadados—na forma de uma "assinatura" eletrônica—em arquivos de imagem gerados por IA. No entanto, a empresa reconhece em seu site de ajuda que esses metadados podem ser removidos inadvertidamente ou deliberadamente. Por exemplo, a maioria das plataformas de redes sociais elimina metadados de imagens enviadas, e ações como tirar uma captura de tela podem excluí-los. Portanto, a ausência de metadados não indica de forma categórica se uma imagem foi criada com o ChatGPT ou DALL-E 3.
Além disso, esses metadados não são visíveis para os usuários sem acessar a descrição do arquivo. Em contraste, a Meta está desenvolvendo um esquema de rotulagem de IA voltado ao público que inclui identificadores visuais, como um emoji de estrelas, para marcar claramente imagens geradas por IA. O recurso da Meta ainda está em fase de design e começará a ser implementado nos próximos meses, utilizando os padrões C2PA junto com o Padrão de Metadados IPTC para Fotos.
Essa iniciativa destaca os compromissos de ambas as empresas com a transparência e a autenticidade no conteúdo gerado por IA, refletindo as crescentes preocupações em torno da desinformação e da integridade digital.