OpenAI Revela a Principal Funcionalidade que os Desenvolvedores Esperavam Há Muito Tempo

A Notação de Objeto JavaScript (JSON) é um formato de arquivo padrão da indústria, legível por humanos e analisável por máquinas, tornando-se uma escolha popular para intercâmbio de dados. Entretanto, modelos de linguagem grande (LLMs) muitas vezes enfrentam desafios com JSON. Eles podem gerar conteúdos ilusórios, produzir respostas que correspondem apenas parcialmente às instruções ou falhar ao analisar JSON corretamente. Essa situação frequentemente força os desenvolvedores a utilizarem soluções alternativas, como ferramentas de código aberto, múltiplos prompts ou solicitações repetidas, para alcançar a interoperabilidade desejada.

Saídas Estruturadas: Uma Solução para Desenvolvedores

Recentemente, a OpenAI abordou essas frustrações com a introdução do recurso de Saídas Estruturadas em sua API. Essa nova funcionalidade assegura que as saídas geradas pelo modelo estejam em conformidade com Schemas JSON, que definem o conteúdo, estrutura, tipos de dados e restrições de um documento JSON. A OpenAI identificou esse recurso como o mais solicitado pelos desenvolvedores, destacando seu papel na melhoria da consistência entre aplicações. O CEO Sam Altman até enfatizou o lançamento como algo “por demanda popular”.

Nas avaliações, o novo modelo GPT-4o da OpenAI alcançou uma pontuação perfeita de 100% com Saídas Estruturadas.

Esse anúncio segue uma semana notável na OpenAI, marcada pela renúncia inesperada de executivos-chave, como John Schulman, Greg Brockman e Peter Deng, e pelos desafios legais contínuos de Elon Musk contra a empresa, descritos como uma traição "shakespeariana" de sua missão em IA.

Aprimorando a Adesão a Esquemas com Facilidade

JSON é um formato flexível e amplamente utilizado para armazenamento e troca de dados, compatível com várias linguagens de programação. A OpenAI havia introduzido um modo JSON para seus modelos durante o DevDay do ano passado, atendendo à demanda dos desenvolvedores.

As Saídas Estruturadas permitem que os desenvolvedores restrinjam os modelos da OpenAI para seguir estritamente os esquemas definidos. A OpenAI afirmou que esse recurso melhora a compreensão do modelo sobre esquemas complexos. “As Saídas Estruturadas representam uma evolução do modo JSON,” explica a empresa em seu blog. “Enquanto ambos garantem que JSON válido seja produzido, apenas as Saídas Estruturadas garantem a adesão a esquemas.” Esse avanço alivia preocupações sobre chaves obrigatórias omitidas ou valores de enumeração inválidos — constantes na programação que facilitam a manutenção do código.

Os desenvolvedores podem usar Saídas Estruturadas para orientar as saídas passo a passo, eliminando a necessidade de validar ou reenviar respostas formatadas incorretamente. A funcionalidade permite prompts mais simples e inclui recusa explícita para solicitações inseguras, mantendo o compromisso da OpenAI com a segurança.

Disponibilidade e Compatibilidade

As Saídas Estruturadas estão disponíveis nos modelos GPT-4o-mini, GPT-4o e versões ajustadas desses modelos. Podem ser utilizadas com a API de Conclusões de Chat, API de Assistentes e API em Lote, além de suportar entradas visuais. A OpenAI reconhece que essa nova funcionalidade se inspira no excelente trabalho da comunidade de código aberto, em particular nas bibliotecas outlines, jsonformer, instructor, guidance e lark.