Google Revela Segredos do GPT-3.5 da OpenAI: Acusações de Vazamento de Informações Cruciais!

Recentemente, a pesquisa do Google ganhou destaque na comunidade de tecnologia. A equipe de pesquisa afirma ter extraído com sucesso parâmetros-chave dos modelos de linguagem de grande porte (LLMs) da OpenAI por meio de chamadas de API simples, com custos em torno de 150 RMB (aproximadamente 22 USD).

O estudo concentrou-se nos modelos da série GPT da OpenAI. Utilizando consultas de API precisas, a equipe do Google conseguiu coletar dados críticos da camada de projeção de embeddings do modelo. Esta camada final desempenha um papel essencial, mapeando dimensões ocultas para vetores de logits, que são fundamentais para as saídas do modelo.

Os pesquisadores indicaram que, ao enviar consultas específicas e analisar as respostas do modelo, poderiam deduzir o tamanho das dimensões ocultas. Essa técnica é aplicável não apenas aos modelos básicos, como Ada e Babbage, mas também a iterações avançadas como GPT-3.5 e GPT-4.

É importante ressaltar que o Google realizou essa pesquisa com a permissão da OpenAI e confirmou a validade de seus métodos após a conclusão, garantindo a exclusão de todos os dados relacionados ao estudo. Apesar de obter alguns parâmetros-chave do modelo por meio de chamadas de API, essa descoberta chocou a indústria, evidenciando vulnerabilidades potenciais mesmo em modelos protegidos por rigorosas medidas de segurança.

Em resposta, a OpenAI implementou estratégias defensivas, incluindo ajustes em sua API de modelo e nas dimensões ocultas. No entanto, este incidente reacendeu debates sobre a segurança e a transparência dos modelos de linguagem de grande porte.

As descobertas do Google não apenas expõem possíveis falhas de segurança nos LLMs, mas também abrem caminho para futuras pesquisas em segurança. À medida que a tecnologia de IA avança, garantir a segurança e a privacidade dos modelos continua sendo um desafio crítico para a indústria.

Este incidente serve como um lembrete importante para a OpenAI priorizar a segurança dos modelos e adotar medidas de proteção mais rigorosas. A colaboração com parceiros da indústria também será crucial para promover o desenvolvimento saudável das tecnologias de IA.

Em resumo, a pesquisa do Google trouxe uma nova perspectiva sobre as questões de segurança que cercam os modelos de linguagem de grande porte. Aguardamos mais pesquisas e inovações que contribuam para o avanço contínuo da tecnologia de inteligência artificial.