O Gerador de Imagens da Meta Enfrenta Dificuldades em Representar Casais e Amizades Multirraciais

O gerador de imagens da Meta parece ter dificuldades em representar com precisão o casamento inter-racial. Em um relatório de Mia Sato para The Verge, suas tentativas de criar uma imagem de um casal multirracial—especificamente um homem de origem asiática e uma mulher caucasiana—resultaram em repetidos fracassos. Apesar de ter tentado "dezena de vezes" com prompts como "homem asiático e esposa branca" e "homem asiático e mulher caucasiana no dia do casamento", a IA gerou consistentemente imagens de dois indivíduos asiáticos. Apenas uma vez produziu uma imagem que se aproximava da realidade, mas apresentava um homem visivelmente mais velho ao lado de uma jovem mulher asiática de pele clara.

Esse problema contrasta com uma recente controvérsia em torno do Google Gemini, que, logo após seu lançamento, foi criticado por fornecer representações historicamente imprecisas, como papas católicas do sexo feminino e soldados nazistas asiáticos. Após uma ampla reação negativa, o Google suspendeu os recursos de geração de pessoas do Gemini e pediu desculpas.

Sato descreveu seus resultados como "abomináveis", ressaltando como a IA generativa pode restringir a criatividade, afirmando que "aprisiona" a inovação dentro de preconceitos sociais. Apesar das tentativas de contato com a Meta para comentários, não houve resposta.

Stereótipos e Viés de Tom de Pele

A exploração de Sato revelou que ajustes menores nos prompts pouco ajudaram a melhorar os resultados—usar "branco" em vez de "caucasiano" resultou nas mesmas imagens. O gerador também hesitou em retratar relações platônicas. Para prompts como “homem asiático com amigo caucasiano” ou “mulher asiática com amiga negra”, repetidamente apresentou imagens de pares asiáticos.

Além disso, o bot reforçou preconceitos relacionados ao tom de pele. O prompt “mulher asiática” gerou predominantemente rostos de asiáticas de pele clara. Curiosamente, o gerador às vezes adicionava roupas culturalmente específicas sem qualquer solicitação, mostrando estereótipos evidentes, como o uso de bindi ou sari. Também mesclou inexplicavelmente trajes culturais distintos, como uma imagem de casamento que misturava estilos de qipao e quimono.

Sato comentou secamente: "O multiculturalismo é incrível."

Viés Relacionado à Idade

Preconceitos da idade também foram evidentes, pois o bot frequentemente associava homens asiáticos mais velhos a mulheres asiáticas surpreendentemente jovens, falhando em representar com precisão a diversidade de relacionamentos matrimoniais dentro da comunidade asiática.

Refletindo Preconceitos Sociais Mais Amplos

Os modelos de IA refletem não apenas os dados nos quais são treinados, mas também os preconceitos de seus desenvolvedores. Isso foi destacado por muitos no Twitter, enfatizando que os casamentos inter-raciais não são uma novidade; nos EUA, eles são legais há mais de 50 anos, desde o histórico caso Loving v. Virginia da Suprema Corte.

Segundo estatísticas recentes, 17% dos casamentos nos EUA envolvem parceiros de diferentes raças ou etnias, e 29% dos recém-casados asiáticos se casam fora de sua raça. Ironia das ironias, o fundador da Meta, Mark Zuckerberg, é um homem branco casado com uma mulher asiática, Priscilla Chan.

Sato destaca que, na mídia ocidental, "asiático" é frequentemente tratado como um termo homogêneo, apesar da vasta diversidade cultural do continente. Com quase 5 bilhões de pessoas—60% da população global—, a Ásia abriga uma variedade de culturas distintas.

Ela conclui: "Talvez não seja surpreendente que o sistema da Meta assume que todas as pessoas ‘asiáticas’ são iguais, quando, na verdade, somos uma coleção diversificada de pessoas que muitas vezes têm pouco em comum, além de marcar a mesma caixa no censo."