“Perigosamente Inexato”: Resumos de IA do Google Geram Zombarias e Levantam Preocupações

Devo adicionar cola à minha pizza? Olhar para o sol por 30 minutos? Comer pedras? Tratar mordidas de cobra com gelo?

De acordo com o novo recurso "Visão Geral de IA" do Google, essas sugestões perigosas aparecem entre os principais resultados quando os usuários buscam informações.

O que é a Visão Geral de IA do Google?

Em maio de 2023, o Google lançou a "Experiência de Pesquisa Generativa" para competir com o ChatGPT da OpenAI. Este resumo gerado por IA é exibido de maneira proeminente abaixo da barra de pesquisa, antes da lista tradicional de links azuis. Inicialmente uma funcionalidade opcional, ela se tornou a experiência padrão para todos os usuários nos EUA após ser rebatizada como Visões Gerais de IA na recente conferência I/O. Os usuários ainda podem optar por retornar à aba "Web" durante as buscas.

Por que a Visão Geral de IA do Google é controversa?

Desde seu lançamento, muitos têm recorrido ao X (anteriormente Twitter) para destacar os resultados preocupantes e frequentemente imprecisos gerados pelas Visões Gerais de IA. Alguns desses resultados enganosos podem ser prejudiciais, gerando críticas de celebridades e usuários. A baixa qualidade das respostas geradas por IA deu origem a memes e piadas, zombando da confiabilidade do Google.

Para abordar essas preocupações, o Google classificou a funcionalidade de Visão Geral de IA como "experimental", indicando que os resultados podem variar em precisão. A empresa afirma que o feedback dos usuários e as análises humanas guiarão as melhorias do sistema.

O Google removerá as Visões Gerais de IA?

Demandas para que Google reconsidere a funcionalidade de Visão Geral de IA surgiram, especialmente após incidentes anteriores em que a empresa suspendeu ferramentas de IA devido a resultados problemáticos. Um porta-voz da empresa destacou que os exemplos mais preocupantes compartilhados online envolviam "consultas muito incomuns" e que a resposta a incidentes isolados foi o aperfeiçoamento da funcionalidade. No entanto, alguns usuários veem isso como uma desculpa, questionando a integridade de um sistema que depende de gerar conteúdo de fontes previamente indexadas, incluindo desinformação e sátira.

Conclusão

Embora não esteja claro quantas buscas resultam em informações imprecisas, a Visão Geral de IA parece ser mais vulnerável a fontes não confiáveis do que a Pesquisa tradicional do Google. Os usuários devem ter cautela e verificar informações em fontes confiáveis antes de agir com base nesses resultados gerados por IA. Alternativas como Perplexity demonstraram maior precisão na entrega de informação confiável, destacando uma reviravolta irônica para o Google, que foi pioneiro na tecnologia por trás da IA generativa moderna.