OpenAI Reconoce el Desarrollo de la Tecnología de Marca de Agua en Texto de ChatGPT en Medio de Desafíos Significativos

OpenAI Desarrolla Tecnología de Marca de Agua para Identificar Contenido Generado por ChatGPT

Según un informe de The Wall Street Journal, OpenAI ha confirmado que trabaja en una herramienta de alta precisión destinada a identificar textos generados por ChatGPT, aunque aún no se ha lanzado oficialmente. La empresa reconoce que el desarrollo de la tecnología de marca de agua para texto enfrenta numerosos desafíos, pero se mantiene comprometida con la investigación de esta innovación.

La esencia de la marca de agua radica en su capacidad para detectar específicamente textos atribuibles a ChatGPT, en contraste con el contenido producido por otros modelos. OpenAI planea lograr esto ajustando sutilmente la elección de palabras generadas por ChatGPT para incrustar una marca de agua invisible, que luego puede ser detectada con herramientas especializadas.

OpenAI ha indicado que la marca de agua para texto es solo una de las varias soluciones que están explorando, junto con clasificadores y metadatos, para determinar el origen de los textos. Sin embargo, la efectividad de esta tecnología podría disminuir significativamente en casos de traducción, reescritura o inserción de caracteres especiales. Además, esta tecnología podría afectar de manera desproporcionada a ciertos grupos, especialmente a los hablantes no nativos de inglés.

Dada estas complejidades y las posibles implicaciones para el ecosistema más amplio, OpenAI ha manifestado que procederá con cautela en el desarrollo de tecnología de rastreo de texto, priorizando el avance de herramientas de verificación para contenido audiovisual.