7 de agosto de 2024, A OpenAI anunciou hoje a introdução de um recurso inovador em sua API: a saída estruturada. Este novo recurso garante que a saída gerada pelo modelo corresponda totalmente ao esquema JSON fornecido pelos desenvolvedores, melhorando significativamente a confiabilidade da API e a precisão dos aplicativos. Diferentemente dos esquemas JSON anteriores, a saída estruturada agora não apenas define o Schema JSON (ou seja, como a estrutura de saída JSON se parece), mas também garante que a saída JSON esteja 100% correta. Simultaneamente, a OpenAI anunciou uma redução nos preços dos novos modelos: o preço de entrada é apenas metade do anterior, e a saída ficou 1/3 mais barata.
Inovação Tecnológica: Introdução da Saída Estruturada
No ano passado, a OpenAI lançou o esquema JSON como uma ferramenta poderosa para desenvolvedores construírem aplicativos. No entanto, embora o esquema JSON tenha aumentado a probabilidade de gerar uma saída JSON válida, ele não garantia que a saída correspondesse a uma estrutura específica. A introdução da saída estruturada visa solucionar essa limitação, restringindo a saída do modelo para corresponder ao esquema predefinido, garantindo a precisão e a consistência dos dados de saída.
Melhoria de Desempenho: Avaliação e Comparação
Na avaliação de acompanhamento da OpenAI de esquemas JSON complexos, o novo modelo gpt-4o-2024-08-06 obteve uma pontuação excelente de 100% em saída estruturada, enquanto o modelo antigo gpt-4-0613 obteve menos de 40%. Esse progresso significativo não apenas demonstra o avanço tecnológico da OpenAI, mas também proporciona aos desenvolvedores maior eficiência e menos erros.
Aplicação Prática: Como Usar a Saída Estruturada
A API da OpenAI introduziu duas formas de saída estruturada:
1. Chamada de Função: A saída estruturada pode ser usada configurando-a na definição da função. Este recurso é aplicável a todos os modelos que suportam ferramentas, incluindo todos os modelos e versões posteriores. Ao ativar a saída estruturada, a saída do modelo corresponderá à definição da ferramenta fornecida.
Configuração da solicitação da API
Resposta da API
2. Nova opção de parâmetro response_format: Os desenvolvedores podem fornecer o esquema JSON json_schema como uma nova opção de parâmetro para obter uma resposta estruturada aos pedidos do usuário.
Segurança e Suporte: Saída Estruturada Segura e Atualizações do SDK
A segurança é sempre a principal prioridade da OpenAI. O novo recurso de saída estruturada cumpre as políticas de segurança existentes, permitindo que o modelo recuse solicitações inseguras quando necessário. Além disso, os SDKs Python e Node da OpenAI foram atualizados para oferecer suporte nativo à saída estruturada, simplificando o processo de desenvolvimento.
Casos de Uso Diversos: De Interfaces Dinâmicas à Extração de Dados
A saída estruturada tem uma ampla gama de aplicações, incluindo a geração dinâmica de interfaces de usuário com base na intenção do usuário, a separação da resposta final do raciocínio de suporte e a extração de dados estruturados de dados não estruturados. Esses casos de uso demonstram a utilidade e a flexibilidade da saída estruturada em diferentes cenários.
Princípio Tecnológico: Decodificação Restrita e Métodos Alternativos
A OpenAI utiliza a técnica de decodificação restrita para garantir a correspondência de 100% entre a saída do modelo e o Schema JSON. Este método, por meio da restrição dinâmica da decodificação, garante que, em cada etapa, o modelo só possa selecionar tokens válidos, reduzindo assim a probabilidade de erros.
Conclusão
O recurso de saída estruturada da OpenAI não apenas fornece aos desenvolvedores uma ferramenta mais confiável e precisa, mas também impulsiona o progresso da tecnologia de inteligência artificial no processamento de dados e no desenvolvimento de aplicativos. Com o lançamento oficial deste recurso, esperamos ver o surgimento de mais aplicativos inovadores.
