Qwen2.5-Coder es una serie de modelos de lenguaje grande Qwen diseñados específicamente para la generación de código, que incluye seis tamaños de modelos principales con 0.5, 1.5, 3, 7, 14 y 32 mil millones de parámetros para satisfacer las necesidades de diferentes desarrolladores. Este modelo presenta mejoras significativas en la generación, inferencia y corrección de código. Basado en el potente Qwen2.5, la extensión de tokens de entrenamiento alcanza los 5.5 billones, incluyendo código fuente, bases de código de texto y datos sintéticos. Qwen2.5-Coder-32B es actualmente el modelo de lenguaje grande de código abierto para generación de código más avanzado, con una capacidad de codificación comparable a GPT-4o. No solo mejora la capacidad de codificación, sino que también mantiene sus ventajas en matemáticas y capacidades generales, y admite contextos largos de hasta 128K tokens.