El Generador de Imágenes de Meta Tiene Dificultades para Representar Parejas y Amistades Mixtas.

El generador de imágenes de Meta parece tener dificultades para representar con precisión el matrimonio interracial. En un informe de Mia Sato para The Verge, sus intentos de crear una imagen de una pareja de raza mixta—específicamente un hombre de Asia Oriental con una mujer caucásica—fueron repetidamente fallidos. A pesar de haber probado "docenas de veces" con indicaciones como "hombre asiático y esposa blanca" y "hombre asiático y mujer caucásica en el día de la boda", la IA generó consistentemente imágenes de dos individuos asiáticos. Solo una vez produjo una imagen algo precisa, que curiosamente mostraba a un hombre notablemente mayor junto a una joven mujer asiática de piel clara.

Este problema contrasta marcadamente con una reciente controversia en torno a Google Gemini, donde, poco después de su lanzamiento, el chatbot fue criticado por ofrecer representaciones históricamente inexactas, como papas católicas mujeres y soldados nazis asiáticos. Tras una fuerte reacción pública, Google suspendió las funciones generadoras de personas de Gemini y emitió una disculpa.

Sato calificó sus resultados de “atroces”, destacando cómo la IA generativa puede reprimir la creatividad, afirmando que la "aprisiona" dentro de los sesgos sociales. A pesar de sus intentos de comunicarse con Meta para obtener un comentario, no recibió respuesta.

Estereotipos y sesgo por tono de piel

La exploración de Sato reveló que pequeños ajustes en las indicaciones no mejoraron los resultados; usar "blanco" en lugar de "caucásico" arrojó los mismos resultados. Además, el generador dudaba en representar relaciones platónicas. Para indicaciones como “hombre asiático con amigo caucásico” o “mujer asiática con amiga negra”, mostró repetidamente imágenes de parejas asiáticas.

Asimismo, el bot reforzó prejuicios relacionados con el tono de piel. La indicación “mujer asiática” arrojó predominantemente rostros esteasiáticos de piel clara. Curiosamente, el generador a veces añadía vestimenta cultural específica sin aviso previo, mostrando estereotipos evidentes, como el uso de un bindi o un sari. También combinó inexplicablemente trajes culturales distintos, como en una imagen de boda que presentaba una mezcla de estilos qipao y kimono.

Sato comentó irónicamente: "El multiculturalismo es asombroso". Los sesgos relacionados con la edad también fueron evidentes, ya que el bot frecuente asignaba hombres asiáticos mayores con sorprendentes mujeres asiáticas jóvenes, sin lograr representar con precisión la diversidad de las relaciones matrimoniales dentro de la comunidad asiática.

Reflejando sesgos sociales más amplios

Los modelos de IA reflejan no solo los datos con los que son entrenados, sino también los sesgos de sus desarrolladores. Esto fue señalado por muchos en Twitter, resaltando que los matrimonios de raza mixta no son un desarrollo reciente; en EE. UU., son legales desde hace más de 50 años, tras el caso histórico Loving v. Virginia.

Según estadísticas recientes, el 17% de los matrimonios en EE. UU. involucra a parejas de diferentes razas o etnicidades, y el 29% de los recién casados asiáticos se casan fuera de su raza. Irónicamente, el fundador de Meta, Mark Zuckerberg, es un hombre blanco casado con una mujer asiática, Priscilla Chan.

Sato señala que en los medios occidentales, "asiático" a menudo se trata como un término homogéneo, a pesar de la vasta diversidad cultural del continente. Con casi 5 mil millones de personas—el 60% de la población global—Asia alberga una variedad de culturas distintas.

Concluye: "Quizás no sea sorprendente que el sistema de Meta asuma que todas las personas 'asiáticas' se ven iguales, cuando, de hecho, somos una colección diversa de personas que a menudo tienen poco en común más allá de marcar la misma casilla en el censo."