Qwen2.5-Coder est une série de modèles linguistiques de grande taille Qwen conçus spécifiquement pour la génération de code. Elle comprend six tailles de modèles principales (0,5, 1,5, 3, 7, 14 et 32 milliards de paramètres) afin de répondre aux besoins des différents développeurs. Ce modèle affiche une amélioration significative dans la génération, le raisonnement et la correction de code. Basé sur le puissant Qwen2.5, il a été entraîné avec 5,5 billions de jetons, incluant du code source, des bases de code textuelles et des données synthétiques. Qwen2.5-Coder-32B est actuellement le modèle de génération de code open source le plus avancé, ses capacités de codage étant comparables à celles de GPT-4o. Il améliore non seulement les capacités de codage, mais conserve également ses avantages en mathématiques et en capacités générales, et prend en charge les contextes longs jusqu'à 128 000 jetons.