Ant Group ha lanzado recientemente una versión cuantificada de 4 bits de CodeFuse-CodeLlama-34B. Incluso después de la cuantificación, este modelo se puede cargar en una sola A10 o RTX4090.
Después de la cuantificación, el modelo obtuvo una puntuación del 73.8% en el indicador Humaneval pass@1. CodeFuse es un modelo grande de lenguaje propio de Ant Group, especializado en la generación de código. Ayuda a los desarrolladores a generar código automáticamente, ofreciendo sugerencias inteligentes y soporte en tiempo real, lo que mejora la eficiencia del desarrollo.