Qwen2.5-Coder é a mais recente série de modelos de linguagem grandes Qwen, focada em geração de código, raciocínio de código e correção de código. Baseado no poderoso Qwen2.5, o modelo foi treinado com 5,5 trilhões de linhas de código-fonte, bases de código de texto, dados sintéticos, etc., tornando-se a mais recente tecnologia em modelos de linguagem de código aberto. O modelo não apenas se equipara ao GPT-4o em capacidade de programação, mas também mantém vantagens em matemática e capacidades gerais. O modelo Qwen2.5-Coder-0.5B-Instruct-GPTQ-Int4 é um modelo ajustado por instruções de 4 bits quantizado por GPTQ, com características de modelo de linguagem causal, pré-treinamento e pós-treinamento, e arquitetura transformers.