大型语言模型如 GPT-4o 和 GPT-4o-mini 的出现，推动了自然语言处理领域的重大进步。这些模型能够生成高质量的响应，进行文档重写，以及提升各类应用的生产力。然而，这些模型面临的一个主要挑战就是响应生成的延迟。在更新博客或优化代码的过程中，这种延迟可能会严重影响用户体验，尤其是在需要多次迭代的场景下，如文档修改或代码重构，用户往往会感到沮丧。为了应对这一挑战，OpenAI 推出了 “预测输出（Predicted Outputs ）” 功能，这一功能显著减少了 GPT-4o 和 GPT-4o-mini 的延迟，

OpenAI在API中新增结构化输出功能，确保生成的输出完全符合预设的JSON架构，显著提升API的可靠性和应用的精确度。这一功能不仅定义了JSON的结构，还确保了输出的准确性。同时，价格下调，输入价格降低一半，输出成本减少1/3。结构化输出的引入，解决了JSON模式在保证输出符合特定架构方面的局限性，显著提升模型在结构化输出方面的表现。通过技术革新，如受限解码技术，实现了模型输出与JSON Schema的完美匹配。此功能在API中以函数调用和参数新选项的形式呈现，支持所有模型和工具。结构化输出在实际应用中展现出广泛的用途，从动态界面到数据提取，都能实现高效、精确的数据处理。安全政策得到遵循，Python和Node SDK已更新，支持结构化输出，简化了开发流程。这一功能的推出，为AI技术在数据处理和应用开发领域带来了新的可能。