Por qué deberías evitar confiar en chatbots de IA como fuente de noticias

Recordatorio sobre los Chatbots Potenciados por IA

Los chatbots potenciados por IA, como ChatGPT, pueden presentar información fabricada con gran confianza, al igual que un GPS que te dirige erróneamente a conducir por un lago. Este recordatorio proviene de un reciente experimento realizado por Nieman Lab, que buscaba determinar si ChatGPT podía proporcionar enlaces precisos a artículos de organizaciones de noticias con contratos lucrativos con OpenAI.

Los hallazgos son preocupantes. En lugar de ofrecer URLs correctas, ChatGPT generó enlaces completamente ficticios que conducían a páginas de error 404. Este fenómeno se conoce en la industria de la IA como “alucinación”, un término que describe acertadamente un sistema que presenta información de manera errónea y con confianza. Andrew Deck de Nieman Lab pidió a ChatGPT que generara enlaces a artículos exclusivos de diez importantes editores. Los resultados fueron similares a pruebas anteriores, como una involucrando a Business Insider, que también arrojó URLs incorrectas.

Un representante de OpenAI reconoció ante Nieman Lab que la empresa aún está desarrollando un sistema para fusionar las capacidades de la IA conversacional con contenido de noticias en tiempo real. Este sistema tiene como objetivo garantizar la atribución correcta y la vinculación precisa a los materiales originales, pero los detalles sobre el cronograma de lanzamiento y la fiabilidad siguen siendo inciertos.

A pesar de estas incertidumbres, las organizaciones de noticias continúan alimentando a los modelos de OpenAI con contenido sustancial a cambio de compensación monetaria, sacrificando a menudo su integridad en el proceso. Mientras tanto, las empresas de IA utilizan contenido no contratado de diversas fuentes para entrenar sus modelos. Mustafa Suleyman, líder de IA en Microsoft, describió todo el contenido publicado en Internet como “software libre”, reforzando una cultura de explotación. La valoración de mercado de Microsoft era de $3.36 billones en el momento de escribir esto.

La conclusión es clara: si ChatGPT está fabricando URLs, es probable que también esté fabricando hechos. En su esencia, la IA generativa funciona como un autocompletado avanzado, simplemente prediciendo la siguiente palabra lógica en una secuencia sin verdadero entendimiento. Por ejemplo, cuando probé los principales chatbots para resolver el Spelling Bee del New York Times, tuvieron significativas dificultades. Esto indica que confiar en la IA generativa para obtener información factual es arriesgado, en el mejor de los casos.