OpenAI Reconhece o Desenvolvimento da Tecnologia de Marca d'Água para Textos do ChatGPT diante de Desafios Significativos

OpenAI Desenvolve Tecnologia de Marca D'Água em Texto para Identificar Conteúdo Gerado pelo ChatGPT

Segundo um relatório do The Wall Street Journal, a OpenAI confirmou estar trabalhando em uma ferramenta de alta precisão para identificar textos gerados pelo ChatGPT, embora ainda não tenha sido oficialmente lançada. A empresa reconhece que, apesar dos numerosos desafios no desenvolvimento da tecnologia de marca d'água em texto, continua comprometida com a pesquisa dessa inovação.

O cerne da marca d'água em texto reside na sua capacidade de detectar especificamente conteúdo atribuído ao ChatGPT, em contraste com textos produzidos por outros modelos. A OpenAI planeja alcançar isso ajustando sutilmente a escolha de palavras geradas pelo ChatGPT para incorporar uma marca d'água invisível, que pode ser detectada posteriormente com ferramentas especializadas.

A OpenAI indicou que a marca d'água em texto é apenas uma das várias soluções que está explorando, juntamente com classificadores e metadados, para determinar a origem dos textos. No entanto, a eficácia dessa tecnologia pode diminuir significativamente em casos de tradução, reescrita ou inserção de caracteres especiais. Além disso, essa tecnologia pode afetar desproporcionalmente alguns grupos, especialmente falantes não nativos de inglês.

Diante dessas complexidades e das potenciais implicações para o ecossistema mais amplo, a OpenAI declarou que procederá com cautela no desenvolvimento da tecnologia de rastreamento de texto, priorizando o aprimoramento de ferramentas de verificação para conteúdo audiovisual.