CEO do Google Aborda Controvérsia sobre Geração de Imagens do Gemini: Classifica Problemas como 'Inaceitáveis' e Compromete-se com a Resolução

Recentemente, o CEO do Google, Sundar Pichai, abordou publicamente preocupações relacionadas à ferramenta de geração de imagens Gemini, alimentada por inteligência artificial. A ferramenta tem sido criticada por suas representações históricas, que retratam de forma inconsistente pessoas de cor, como ao mostrá-las incorretamente como vikings ou papas católicos indígenas. Pichai considerou essa situação “inaceitável” e prometeu que a empresa “trabalhará incansavelmente” para resolver essas questões.

Em uma mensagem aos funcionários, Pichai enfatizou: “Nenhuma inteligência artificial é perfeita, especialmente nesta indústria emergente. No entanto, reconhecemos a necessidade de atingir altos padrões e nos comprometemos a isso pelo tempo que for necessário. Faremos uma revisão completa do que ocorreu para garantir que abordemos esses problemas em larga escala.”

Ele também anunciou que, embora o chatbot Gemini (anteriormente conhecido como Bard) tenha avançado significativamente em diversas solicitações, as capacidades de geração de imagens do Google Gemini serão pausadas até que as questões sejam totalmente resolvidas.

Prabhakar Raghavan, vice-presidente sênior de conhecimento e informação do Google, explicou a raiz do problema. Ele esclareceu que a questão não estava no modelo em si, mas sim em uma série de erros durante o processo de ajuste. Embora o modelo buscasse contemplar populações diversas em seus dados de treinamento, ele “falhou em considerar situações que não deveriam ser representadas.” Além disso, o modelo tornou-se cada vez mais cauteloso, às vezes se recusando a responder a solicitações específicas para evitar erros sensíveis ou absurdos.

Para prevenir problemas semelhantes no futuro, o Google se comprometeu a uma série abrangente de correções e testes. Isso inclui ajustes estruturais, diretrizes de produtos atualizadas, processos de lançamento aprimorados, mecanismos de avaliação melhorados e a implementação de “red teaming” e recomendações técnicas. Pichai permanece otimista quanto ao futuro do Gemini e espera que o gerador de imagens esteja online novamente em breve.

Esse incidente serve como um lembrete dos desafios enfrentados no desenvolvimento das tecnologias de IA. Embora progressos significativos tenham sido feitos, a indústria deve continuar a buscar melhorias. Como líder no setor, a resposta do Google terá implicações de longo alcance para todo o campo.