Plagiadores de ChatGPT, tomen nota: OpenAI ha desarrollado una herramienta que puede detectar el contenido generado por GPT-4 con una impresionante precisión del 99.99%. Sin embargo, la compañía ha estado deliberando durante más de un año sobre si hacerlo disponible al público. Según TechCrunch, OpenAI está adoptando un “enfoque deliberado” debido a las complejidades y posibles consecuencias que esta herramienta podría tener en el ecosistema en general. Un portavoz de OpenAI destacó que “el método de marca de agua en texto que estamos desarrollando muestra una promesa técnica, pero estamos evaluando riesgos significativos. Estos incluyen la posibilidad de que actores malintencionados lo eludan y el impacto desproporcionado en grupos como los hablantes no nativos de inglés”.
Este sistema de marca de agua de texto incrusta un patrón específico en las salidas del modelo, haciéndolo detectable por la herramienta de OpenAI pero invisible para los usuarios. Aunque puede identificar eficazmente el texto generado por su motor GPT-4, no puede diferenciar las salidas de otros modelos de IA como Gemini o Claude. Además, la marca de agua puede eliminarse fácilmente al traducir el texto a otro idioma y luego regresarlo al original.
No es la primera vez que OpenAI intenta desarrollar una herramienta de detección de texto. El año pasado, discontinuó en silencio un proyecto similar debido a su insatisfactoria tasa de detección y su tendencia a generar falsos positivos. Lanzada en enero de 2023, esa herramienta anterior requería que los usuarios ingresaran al menos 1,000 caracteres de texto para análisis. Con solo un 26% de precisión en la identificación correcta de contenido generado por IA, erróneamente etiquetó el 9% del contenido escrito por humanos como generado por IA. Esto incluso llevó a un profesor de Texas A&M a fallar incorrectamente a toda una clase por el supuesto uso de ChatGPT en trabajos finales. Además, OpenAI teme una reacción negativa de los usuarios; según el Wall Street Journal, el 69% de los usuarios de ChatGPT considera que tal herramienta es poco confiable, temiendo que pueda dar lugar a acusaciones falsas de trampa. Otro 30% indicó que cambiarían a modelos alternativos si OpenAI lanzara la función. También persisten preocupaciones de que los desarrolladores podrían descompilar la marca de agua para crear herramientas contrarias. Mientras OpenAI sigue sopesando los pros y los contras de lanzar su sistema de marca de agua, otras startups de IA están compitiendo para presentar herramientas de detección de texto, incluyendo GPTZero, ZeroGPT, Scribbr y Writer AI Content Detector. Sin embargo, la falta general de precisión en estas herramientas significa que el ojo humano sigue siendo nuestro método más confiable para detectar contenido generado por IA, lo que no es precisamente tranquilizador.
Clasificación
