Um Ano Depois do "Código Vermelho" da IA, Google Enfrenta Reação Negativa Sobre o Gemini: Era Iminente?

Durante todo o fim de semana, meu feed de redes sociais foi inundado com capturas de tela, memes e manchetes que zombavam ou criticavam o chamado modelo de IA 'woke' Gemini da Google. Essa agitação ocorreu após a admissão da empresa de que "errou a mão" ao produzir imagens historicamente imprecisas e enganosas. No X (anteriormente Twitter), usuários compartilharam capturas de tela que exibiam os resultados do Gemini, incluindo uma que absurdamente afirmava: "não é possível dizer definitivamente quem prejudicou a sociedade mais, Elon tuitando memes ou Hitler." O investidor de capital de risco Marc Andreessen se divertiu especialmente ao repostar conteúdos errôneos e ofensivos, alegando que foram "programados de forma deliberada com a lista de pessoas e ideias que seus criadores odeiam."

O contraste entre a empolgação inicial em torno do lançamento do Gemini em dezembro — quando era visto como um concorrente ao GPT-4 — e a reação negativa subsequente é notável. No ano passado, o New York Times revelou que a Google havia declarado "alerta vermelho" após o lançamento do ChatGPT em novembro de 2022, que desencadeou um boom de IA generativa que ameaçava ofuscar a gigante da tecnologia. Apesar de ter contribuído com os desenvolvedores por trás do ChatGPT, a Google foi cautelosa em proteger sua marca. Startups como a OpenAI pareciam mais dispostas a aceitar riscos para um crescimento rápido. Em resposta ao sucesso do ChatGPT, o CEO Sundar Pichai se envolveu profundamente na redefinição da estratégia de IA da empresa.

A tensão entre a necessidade de inovação rápida e a manutenção da satisfação do usuário provavelmente contribuiu para a reação contrária ao Gemini. A Google hesitou em liberar seus modelos de linguagem de grande escala (LLMs) mais avançados para evitar o tipo de fallout que enfrenta agora: críticas por saídas inadequadas da IA.

Esta não é a primeira vez que a Google se depara com controvérsias envolvendo LLMs. Em junho de 2022, o engenheiro Blake Lemoine afirmou que o LaMDA, tecnologia de chatbot da Google, era senciente. Lemoine, que trabalhou na equipe de IA Responsável da Google, testou o LaMDA em busca de sinais de linguagem discriminatória, mas acabou vazando transcrições de suas interações, que incluíam perguntas sobre seus pronomes preferidos.

Naquela época, tanto a Google quanto seu laboratório de pesquisa, DeepMind, estavam cautelosos no domínio dos LLMs. A DeepMind planejava lançar seu chatbot Sparrow em beta privativa, mas destacou que o Sparrow "não estava imune a cometer erros." Startups como a OpenAI e a Anthropic não enfrentam as mesmas pressões que a Google. Como mencionado em um artigo anterior do New York Times, a Google luta para implantar IA avançada de forma responsável, com discussões internas reconhecendo que empresas menores operam com menos restrições. A Google reconheceu que precisava se engajar com a indústria ou correr o risco de ficar para trás.

Agora, a Google está totalmente comprometida com a IA generativa, mas esse compromisso traz seus próprios desafios. Diferente da OpenAI, que não lida com demandas de acionistas ou grandes bases de usuários dependentes de seus produtos tradicionais, a Google tem uma teia complexa de obrigações. Todas as empresas de LLM lidam com problemas como alucinações; apenas na semana passada, o ChatGPT produziu respostas incoerentes e emitiu uma declaração reconhecendo que o problema estava sendo abordado. Embora essas saídas possam não provocar a mesma controvérsia que as do Gemini, as expectativas para a Google permanecem altas. Como o ator estabelecido no campo da IA, a empresa enfrenta um escrutínio que empresas menores não enfrentam.

Alcançar um equilíbrio que satisfaça valores sociais, culturais e políticos diversos é virtualmente impossível. Com alucinações como parte inerente da tecnologia atual de IA, a Google se encontra em uma posição desafiadora: navegando nas demandas de um público crítico enquanto tenta inovar de maneira responsável.

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles