Le 7 août 2024, OpenAI a annoncé aujourd'hui l'introduction d'une fonctionnalité révolutionnaire dans son API : la sortie structurée. Cette nouvelle fonctionnalité garantit que la sortie générée par le modèle est parfaitement conforme au schéma JSON fourni par le développeur, améliorant ainsi considérablement la fiabilité de l'API et la précision des applications. Contrairement aux schémas JSON précédents, la sortie structurée permet non seulement de définir le schéma JSON (c'est-à-dire la structure de la sortie JSON), mais aussi de garantir que la sortie JSON est 100 % correcte. Parallèlement, OpenAI a annoncé une baisse de prix pour les nouveaux modèles : le prix d'entrée est réduit de moitié, et le prix de sortie est réduit d'un tiers.
Innovation technologique : introduction de la sortie structurée
L'année dernière, OpenAI a lancé les schémas JSON, un outil puissant pour les développeurs créant des applications. Cependant, bien que les schémas JSON aient augmenté la probabilité de générer une sortie JSON valide, ils ne garantissaient pas que la sortie correspondait à une structure spécifique. L'introduction de la sortie structurée vise à résoudre cette limitation, en contraignant la sortie du modèle pour qu'elle corresponde au schéma prédéfini, garantissant ainsi l'exactitude et la cohérence des données de sortie.
Amélioration des performances : évaluation et comparaison
Lors de l'évaluation de suivi d'OpenAI sur des schémas JSON complexes, le nouveau modèle gpt-4o-2024-08-06 a obtenu un score parfait de 100 % en matière de sortie structurée, tandis que l'ancien modèle gpt-4-0613 a obtenu un score inférieur à 40 %. Cette amélioration significative témoigne non seulement des progrès technologiques d'OpenAI, mais offre également aux développeurs une meilleure efficacité et une réduction des erreurs.
Applications pratiques : comment utiliser la sortie structurée
L'API d'OpenAI introduit deux formes de sortie structurée :
1. Appels de fonction : La sortie structurée peut être utilisée en définissant les paramètres dans la définition de la fonction. Cette fonctionnalité est compatible avec tous les modèles prenant en charge les outils, y compris tous les modèles et les versions ultérieures. Une fois la sortie structurée activée, la sortie du modèle correspondra à la définition de l'outil fournie.
Paramètres de la requête API
Réponse de l'API
2. Nouvel option de paramètre : response_format : Les développeurs peuvent fournir un schéma JSON json_schema comme nouvelle option de paramètre pour obtenir une réponse structurée aux requêtes utilisateur.
Sécurité et support : sortie structurée sécurisée et mise à jour des SDK
La sécurité est toujours la priorité absolue d'OpenAI. La nouvelle fonctionnalité de sortie structurée respecte les politiques de sécurité existantes, permettant au modèle de refuser les requêtes non sécurisées si nécessaire. De plus, les SDK Python et Node d'OpenAI ont été mis à jour pour prendre en charge nativement la sortie structurée, simplifiant ainsi le processus de développement.
Cas d'utilisation diversifiés : des interfaces dynamiques à l'extraction de données
La sortie structurée a une portée d'application extrêmement large, notamment la génération dynamique d'interfaces utilisateur en fonction des intentions de l'utilisateur, la séparation des réponses finales des raisonnements justificatifs, et l'extraction de données structurées à partir de données non structurées. Ces cas d'utilisation montrent l'utilité et la flexibilité de la sortie structurée dans différents contextes.
Principes techniques : décodage contraint et méthodes alternatives
OpenAI a mis en œuvre une technique de décodage contraint pour garantir une correspondance à 100 % entre la sortie du modèle et le schéma JSON. Cette méthode, grâce à un décodage contraint dynamique, garantit qu'à chaque étape, le modèle ne peut sélectionner que des jetons valides, réduisant ainsi les erreurs.
Conclusion
La fonctionnalité de sortie structurée d'OpenAI offre aux développeurs un outil plus fiable et plus précis, tout en faisant progresser les technologies d'intelligence artificielle dans le traitement des données et le développement d'applications. Avec le lancement officiel de cette fonctionnalité, nous attendons avec impatience la création de nombreuses applications innovantes.
