OpenAI Explora el Marcado de Texto para ChatGPT con el Fin de Identificar el Engaño entre los Estudiantes

En respuesta a un informe del The Wall Street Journal, que sugiere que OpenAI ha desarrollado una herramienta capaz de identificar con precisión ensayos generados por ChatGPT, la empresa ha compartido información sobre su investigación en marcas de agua de texto. El informe indica que las discusiones sobre el lanzamiento de la herramienta han retrasado su disponibilidad pública, a pesar de que supuestamente está "lista".

OpenAI declaró: "Nuestros equipos han desarrollado un método de marca de agua de texto que seguimos evaluando mientras exploramos alternativas." La compañía explicó que la marca de agua es solo uno de varios enfoques, junto con clasificaciones y metadatos, que está investigando como parte de una extensa búsqueda sobre la procedencia del texto.

Si bien OpenAI afirma que el método de marca de agua ha mostrado alta precisión en ciertos escenarios, enfrenta dificultades con manipulaciones específicas, como el uso de sistemas de traducción, la reformulación con diferentes modelos generativos o la inserción y posterior eliminación de caracteres especiales entre palabras. Además, OpenAI destacó preocupaciones sobre cómo la marca de agua podría afectar desproporcionadamente a ciertos grupos de usuarios, señalando: “Por ejemplo, podría estigmatizar el uso de la IA como una herramienta de escritura útil para hablantes no nativos de inglés.”

En su publicación de blog, OpenAI enfatizó que está considerando cuidadosamente estos riesgos potenciales. La empresa también ha priorizado el lanzamiento de herramientas de autenticación para contenido audiovisual. Un portavoz de OpenAI aclaró que la compañía está adoptando un “enfoque deliberado” hacia la procedencia del texto debido a las complejidades implicadas y el posible impacto en el ecosistema más amplio fuera de sus propias operaciones.