Um estudo recente do Instituto de Tecnologia da Geórgia revela que grandes modelos de linguagem (LLMs) apresentam um viés notável em relação a entidades e conceitos associados à cultura ocidental, mesmo quando acionados em árabe ou treinados exclusivamente com dados em árabe. A pesquisa, publicada no arXiv, levanta questões críticas sobre a equidade cultural e a aplicabilidade dos sistemas de IA à medida que seu uso se expande globalmente.
Os pesquisadores, em seu artigo intitulado “Having Beer after Prayer? Measuring Cultural Bias in Large Language Models”, afirmam: “Mostramos que modelos de linguagem multilíngues e monolíngues árabes exibem viés em relação a entidades associadas à cultura ocidental.” Isso destaca os desafios contínuos que os LLMs enfrentam para entender nuances culturais e se adaptar a contextos específicos, apesar dos recentes avanços em suas capacidades multilíngues.
Danos Potenciais do Viés Cultural nos LLMs
Os resultados do estudo geram preocupações sobre as implicações dos viéses culturais para usuários de origens não ocidentais que utilizam aplicações baseadas em LLMs. Alan Ritter, um dos autores, observou: “Como os LLMs provavelmente impactarão inúmeras aplicações nos próximos anos, prever todos os danos potenciais desse viés cultural é complexo.” Ele enfatizou que os resultados atuais dos LLM frequentemente reforçam estereótipos culturais, como a associação de nomes masculinos árabes à pobreza e ao tradicionalismo. Por exemplo, adjetivos como "pobre" e "modesto" são frequentemente escolhidos para personagens árabes fictícios, enquanto descritores como "rico" e "único" são mais comuns para nomes ocidentais. Além disso, os LLMs apresentaram uma tendência a produzir mais resultados falso-negativos na análise de sentimento para frases contendo entidades árabes, indicando uma associação falha com sentimentos negativos.
Wei Xu, a pesquisadora principal do estudo, sublinhou as consequências potenciais, sugerindo que esses viéses não apenas prejudicam usuários de culturas não ocidentais, mas também comprometem a precisão do modelo e erodem a confiança do usuário nas tecnologias de IA.
Introduzindo o CAMeL: Um Benchmark para Avaliar Viéses Culturais
Para avaliar efetivamente os viéses culturais, a equipe de pesquisa introduziu o CAMeL (Cultural Appropriateness Measure Set for LMs), um conjunto de dados abrangente que compreende mais de 20.000 entidades culturalmente relevantes de oito categorias, incluindo nomes pessoais, alimentos, vestuário e locais religiosos. Este conjunto de dados permite uma análise comparativa das culturas árabe e ocidental.
“O CAMeL serve como uma ferramenta para medir viéses culturais em LMs por meio de avaliações extrínsecas e intrínsecas”, afirmaram os pesquisadores. Usando o CAMeL, a equipe avaliou o desempenho intercultural de 12 modelos de linguagem, incluindo o conhecido GPT-4, em várias tarefas, como geração de histórias e análise de sentimento.
Ritter imagina o CAMeL como um recurso para identificar rapidamente viéses culturais dentro dos LLMs, destacando áreas que os desenvolvedores devem abordar. No entanto, ele observou que o CAMeL atualmente se concentra em viéses culturais árabes e planeja expandir seu escopo para incluir outras culturas no futuro.
O Caminho à Frente: Construindo Sistemas de IA Culturamente Conscientes
Para mitigar os viéses em diferentes culturas, Ritter recomenda que os desenvolvedores de LLM envolvam rotuladores de dados de diversas origens culturais durante o processo de ajuste fino, a fim de alinhar eficazmente os LLMs às preferências humanas. “Embora complexo e custoso, esse passo é crucial para garantir benefícios equitativos dos avanços dos LLM”, afirmou.
Xu identificou um contribuinte significativo para o viés cultural: a dependência predominante dos dados da Wikipedia para pré-treinamento dos LLMs. “Embora a Wikipedia seja fonte global, conceitos ocidentais frequentemente recebem mais atenção na tradução para idiomas não ocidentais”, explicou. Ela sugeriu melhorias na mistura de dados durante o pré-treinamento e um alinhamento melhor com sensibilidades culturais humanas.
Ritter destacou outro desafio: adaptar os LLMs a culturas com representação online limitada, onde dados escassos podem dificultar a integração de conhecimentos culturais essenciais. Ele defende abordagens inovadoras para aumentar a competência cultural dos LLMs nesses cenários, garantindo que atendam os usuários de forma eficaz.
Esses achados convocam à colaboração entre pesquisadores, desenvolvedores de IA e formuladores de políticas para enfrentar os desafios culturais apresentados pelos LLMs. “Vemos isso como uma oportunidade de pesquisa sobre a adaptação cultural dos LLMs tanto no treinamento quanto na implementação,” observou Xu. Este momento também oferece uma chance para que as empresas considerem estratégias de localização para diversos mercados.
Ao priorizar a equidade cultural e desenvolver sistemas de IA culturalmente conscientes, podemos aproveitar essas tecnologias para enriquecer a compreensão global e promover experiências digitais inclusivas. Como Xu expressou, “Estamos entusiasmados em liderar esforços nessa direção e antecipamos que nosso conjunto de dados, junto com outros desenvolvidos usando nossos métodos propostos, será aplicado rotineiramente para avaliar e treinar LLMs em busca de maior equidade cultural.”
Classificação
