El CEO de Google Aborda la Controversia de Generación de Imágenes de Gemini: Califica los Problemas de 'Inaceptables' y Se Compromete a Resolverlos.

Recientemente, el CEO de Google, Sundar Pichai, abordó públicamente las preocupaciones sobre la herramienta de generación de imágenes Gemini, impulsada por inteligencia artificial. Esta herramienta ha sido criticada por sus representaciones históricas inconsistentes de personas de color, como retratarlas incorrectamente como vikingos o papas católicos indígenas. Pichai calificó esta situación como "inaceptable" y se comprometió a “trabajar incansablemente” para resolver estos problemas.

En un mensaje a los empleados, Pichai subrayó que “ninguna inteligencia artificial es perfecta, especialmente en esta industria emergente. Sin embargo, reconocemos la necesidad de cumplir con altos estándares y nos mantendremos comprometidos el tiempo que sea necesario. Revisaremos minuciosamente lo ocurrido para asegurarnos de abordar estos problemas a gran escala”.

Además, anunció que, aunque el chatbot Gemini (anteriormente conocido como Bard) ha avanzado considerablemente en varios comandos, las capacidades de generación de imágenes de Google Gemini se suspenderán hasta que se resuelvan completamente los problemas.

Prabhakar Raghavan, vicepresidente senior de conocimiento e información de Google, explicó la raíz del problema. Aclaró que la dificultad no radicaba en el modelo en sí, sino en una serie de errores durante el proceso de ajuste. Aunque el modelo intentaba considerar poblaciones diversas en sus datos de entrenamiento, “no logró tener en cuenta situaciones que no debían ser representadas”. Además, el modelo se ha vuelto más cauteloso, a veces negándose a responder a ciertos comandos para evitar errores sensibles o absurdos.

Para prevenir problemas similares en el futuro, Google se ha comprometido a una serie integral de correcciones y pruebas. Esto incluye ajustes estructurales, actualizaciones en las directrices de productos, mejoras en los procesos de lanzamiento, mecanismos de evaluación más rigurosos y la implementación de “red teaming” y recomendaciones técnicas. Pichai se muestra optimista sobre el futuro de Gemini y anticipa que el generador de imágenes volverá a estar en línea pronto.

Este incidente recuerda los desafíos que enfrenta el desarrollo de tecnologías de inteligencia artificial. A pesar de los importantes avances, la industria debe seguir esforzándose por mejorar. Como líder del sector, la respuesta de Google tendrá implicaciones significativas para todo el campo.