Ant Group a récemment publié une version quantifiée à 4 bits de CodeFuse-CodeLlama-34B. Ce modèle, même après quantification, peut être chargé sur une seule carte A10 ou RTX4090.
Après quantification, le modèle a atteint un score de 73,8 % sur l'indicateur Humaneval pass@1.
CodeFuse est un grand modèle linguistique spécialisé dans la génération de code, développé en interne par Ant Group. Il aide les développeurs à générer du code automatiquement grâce à des suggestions intelligentes et un support en temps réel, améliorant ainsi l'efficacité du développement.