Na semana passada, a OpenAI lançou sua GPT Store, permitindo que criadores terceiros apresentem e monetizem chatbots personalizados (GPTs). No entanto, as inovações da empresa não param por aí à medida que janeiro de 2024 avança.
Na segunda-feira, a OpenAI divulgou uma postagem em seu blog detalhando novas medidas de proteção para suas ferramentas de IA, com foco especial em seu modelo de geração de imagens, DALL-E, e nas práticas de citação do ChatGPT. Esta iniciativa visa combater a desinformação antes das várias eleições programadas globalmente para este ano.
“Proteger a integridade das eleições requer colaboração de todos os aspectos do processo democrático, e queremos garantir que nossa tecnologia não seja usada de maneira a prejudicar esse processo”, afirma o blog.
Entre as atuais medidas de proteção está uma função de “denúncia”, permitindo que os usuários sinalizem potenciais violações relacionadas aos GPTs personalizados, incluindo aqueles que fingem ser indivíduos ou instituições reais, o que contraria as políticas de uso da OpenAI.
Novas Medidas Antecipadas
O blog da OpenAI revela que os usuários em breve terão acesso a reportagens de notícias em tempo real globalmente, com atribuição e links, aumentando a credibilidade das informações acessadas por meio do ChatGPT. Essa melhoria está alinhada com as parcerias da OpenAI com veículos respeitados como a Associated Press e Axel Springer, que abriga o Politico e o Business Insider.
Notavelmente, a OpenAI implementará credenciais de imagem da Coalition for Content Provenance and Authenticity (C2PA). Esta iniciativa visa aplicar marcas d'água digitais criptográficas ao conteúdo gerado por IA, garantindo sua detectabilidade no futuro. A OpenAI planeja integrar as credenciais C2PA nas imagens do DALL-E 3 no início deste ano, embora uma data específica ainda não tenha sido anunciada.
Além disso, a OpenAI apresentou seu “classificador de proveniência”, uma ferramenta projetada para detectar imagens geradas pelo DALL-E. Inicialmente mencionada durante o lançamento do DALL-E 3 no outono de 2023, essa ferramenta permitirá que os usuários enviem imagens para determinar suas origens em IA.
“Nossos testes internos revelaram resultados encorajadores, mesmo com imagens submetidas a modificações típicas”, menciona o blog. “Planejamos lançá-la para nosso primeiro grupo de testadores—including jornalistas, plataformas e pesquisadores—para feedback em breve.”
O Papel da IA nas Campanhas Políticas
À medida que organizações políticas, como o Comitê Nacional Republicano (RNC) nos EUA, usam cada vez mais a IA para mensagens, incluindo a simulação de oponentes, a eficácia das medidas de proteção da OpenAI para conter ondas de desinformação digital ainda é incerta. No entanto, a OpenAI se posiciona claramente como uma defensora da verdade e da precisão em meio às preocupações sobre o uso indevido de suas ferramentas.
Classificação
