‘Legítimamente Peligroso’: Las Inexactitudes de la IA de Google Desatan Burla y Generan Preocupaciones

¿Deberías agregar pegamento a tu pizza? ¿Mirar al sol durante 30 minutos? ¿Comer rocas? ¿Tratar las mordeduras de serpiente con hielo?

Según la nueva función "Resumen de IA" de Google, estas sugerencias peligrosas aparecen entre los principales resultados de búsqueda.

¿Qué es el Resumen de IA de Google?

En mayo de 2023, Google lanzó la “Experiencia Generativa de Búsqueda” para competir con ChatGPT de OpenAI. Este resumen impulsado por IA, que presenta información clave, se muestra de manera prominente debajo de la barra de búsqueda, antes de la lista tradicional de enlaces azules. Inicialmente, era una función opcional, pero se convirtió en la experiencia predeterminada para todos los usuarios en EE. UU. tras ser rebautizada como Resumen de IA en la reciente conferencia I/O. Los usuarios aún pueden optar por no participar cambiándose a la pestaña “Web” durante las búsquedas.

¿Por qué es controvertido el Resumen de IA de Google?

Desde su lanzamiento, muchos han comentado en X (antes Twitter) sobre los resultados preocupantes y a menudo inexactos generados por los Resúmenes de IA. Algunos resultados engañosos pueden ser perjudiciales o inflamatorios, lo que ha llevado a críticas de celebridades y usuarios. La baja calidad de las respuestas generadas por IA ha provocado memes y bromas, burlándose de la fiabilidad de Google.

Para abordar estas inquietudes, Google ha etiquetado la función de Resumen de IA como "experimental", lo que indica que la precisión de los resultados puede variar. La empresa afirma que el feedback de los usuarios y las revisiones humanas guiarán las mejoras del sistema.

¿Considerará Google eliminar los Resúmenes de IA?

Han surgido llamados para que Google reconsidere la función de Resumen de IA, especialmente tras incidentes anteriores donde Google suspendió herramientas de IA por producir resultados problemáticos. Un portavoz de la empresa señaló que los ejemplos más preocupantes compartidos en línea involucraban “consultas muy poco comunes” y han respondido a incidentes aislados refinando la función. Sin embargo, algunos usuarios ven esto como una excusa, cuestionando la integridad de un sistema que se basa en generar contenido a partir de fuentes indexadas previamente, incluidas desinformación y sátira.

Conclusión

Aunque no está claro cuántas búsquedas generan información inexacta, el Resumen de IA parece ser más vulnerable a fuentes no confiables que la Búsqueda tradicional de Google. Los usuarios deben tener precaución y verificar la información en fuentes confiables antes de actuar según estos resultados generados por IA. Alternativas como Perplexity han demostrado mayor precisión al proporcionar información confiable, lo que resalta una ironía para Google, que fue pionera en la tecnología detrás de la IA generativa moderna.