OpenAI Explora a Marca d'Água em Textos para o ChatGPT Identificar Trapaças entre Estudantes

Em resposta a um relatório do The Wall Street Journal, que sugere que a OpenAI desenvolveu uma ferramenta capaz de identificar com precisão ensaios gerados pelo ChatGPT, a empresa compartilhou informações sobre sua pesquisa de marcas d’água em textos. O relatório indica que as discussões sobre o lançamento da ferramenta atrasaram sua disponibilidade pública, embora ela já esteja supostamente "pronta".

A OpenAI afirmou: "Nossas equipes desenvolveram um método de marcação de texto que continuamos a avaliar enquanto exploramos alternativas." A empresa explicou que a marcação é apenas uma das várias abordagens, juntamente com classificadores e metadados, que estão sendo investigadas como parte de uma pesquisa abrangente sobre a proveniência do texto.

Embora a OpenAI afirme que o método de marcação mostrou alta precisão em certos cenários, ele enfrenta desafios em manipulações específicas, como o uso de sistemas de tradução, reformulação com diferentes modelos gerativos ou inserção e remoção de caracteres especiais entre palavras. Além disso, a OpenAI destacou preocupações de que a marcação possa afetar desproporcionalmente certos grupos de usuários, observando: "Por exemplo, isso poderia estigmatizar o uso da IA como uma ferramenta de escrita útil para falantes não nativos de inglês."

Em sua postagem no blog, a OpenAI enfatizou que está considerando cuidadosamente esses riscos potenciais. A empresa também priorizou o lançamento de ferramentas de autenticação para conteúdo audiovisual. Um porta-voz da OpenAI esclareceu ainda que a empresa está adotando uma "abordagem deliberada" para a proveniência do texto devido às complexidades envolvidas e ao possível impacto no ecossistema mais amplo além de suas próprias operações.