OpenAI Se Junta à Coalizão pela Proveniência e Autenticidade do Conteúdo
A OpenAI anunciou sua entrada no comitê diretor da Coalizão pela Proveniência e Autenticidade do Conteúdo (C2PA), um grupo comercial criado em fevereiro de 2021 pela Microsoft e Adobe, que conta com outros membros notáveis como Arm, BBC, Intel e Truepic.
Objetivo da Participação na C2PA
A OpenAI visa ajudar os indivíduos a verificar as ferramentas utilizadas para criar ou editar conteúdo digital, além de desenvolver tecnologia que identifique conteúdo gerado por seus próprios instrumentos. Essa colaboração com outros líderes da indústria, incluindo concorrentes, busca criar recursos para rotular imagens, vídeos e outros meios gerados por IA. Isso permitirá que os espectadores rastreiem o conteúdo até sua fonte e o distingam de imagens e vídeos autênticos.
O que Faz a C2PA?
Operando sob a Joint Development Foundation, uma organização sem fins lucrativos, a C2PA está focada em estabelecer "especificações técnicas para a proveniência e autenticidade do conteúdo." Desde sua criação, a organização tem recebido grandes empresas de tecnologia, incluindo o Google, em seu comitê. A C2PA desenvolveu vários padrões de código aberto que permitem a desenvolvedores e empresas esclarecer a origem do conteúdo gerado por IA.
Os principais padrões incluem a arquitetura C2PA, que facilita o armazenamento e o acesso a informações criptograficamente verificáveis, permitindo que os usuários avaliem a confiabilidade do conteúdo com base em um modelo de confiança definido.
Implementação de Credenciais de Conteúdo
Os membros da C2PA utilizaram sua arquitetura para criar "Credenciais de Conteúdo", uma pequena marca d'água "CR" que ajuda os usuários a identificar o criador e as ferramentas utilizadas para uma imagem. Esse recurso permite interações por hover ou toque para fornecer informações mais detalhadas.
A arquitetura C2PA também pode ser integrada aos metadados de arquivos de mídia digital, garantindo acessibilidade mesmo quando offline. A OpenAI tem aplicado esse padrão a imagens geradas por seu modelo DALL-E 3 desde fevereiro de 2023. A Meta também começou a rotular imagens geradas por IA utilizando os padrões da C2PA.
Declarações sobre Colaboração na Indústria
Anna Makanju, vice-presidente de Assuntos Globais da OpenAI, destacou em um comunicado da C2PA o papel da organização em promover padrões compartilhados em torno da proveniência digital. Ela enfatizou que contribuir para esses esforços é crucial para construir confiança no conteúdo digital que os consumidores encontram online.
Desenvolvimentos Futuros com Sora
Embora ainda não esteja disponível ao público, o avançado modelo de IA para geração de vídeos da OpenAI, Sora, implementará metadados da C2PA para rotular suas saídas como geradas por IA quando liberado para parceiros confiáveis e, posteriormente, para o público.
Programa de Classificação de Detecção do DALL-E
A OpenAI também lançou o Programa de Acesso de Pesquisadores para Classificação de Detecção do DALL-E, que conta com um classificador binário para prever se uma imagem é derivada do modelo DALL-E 3. A OpenAI convida laboratórios de pesquisa e organizações sem fins lucrativos de jornalismo a se inscreverem para participação até 31 de julho.
Criação de um Fundo de Resiliência Social
Juntamente com a Microsoft, a OpenAI está estabelecendo um fundo de resiliência social de $2 milhões para aprimorar a educação em IA para adultos mais velhos e aqueles que não estão familiarizados com a tecnologia. Esta iniciativa colabora com organizações como AARP, International IDEA e Partnership on AI.
Esses anúncios coincidem com crescentes preocupações sobre imagens geradas por IA que podem enganar usuários em plataformas de mídia social como o Facebook. A abordagem dupla da OpenAI visa abordar tanto a geração de conteúdo quanto a educação.
No entanto, com a prevalência de ferramentas de IA de código aberto e a capacidade de alterar imagens, rotular de forma confiável o conteúdo gerado por IA continua sendo um desafio. Apesar disso, as medidas proativas da OpenAI sinalizam seu compromisso em ser uma entidade socialmente responsável no cenário em evolução do conteúdo digital.
Classificação
