蚂蚁集团最近发布了 CodeFuse-CodeLlama-34B 的 4bits 量化版本,该模型经过量化后仍可用单张 A10 或 RTX4090 加载。经过量化后的模型在 Humaneval pass@1 指标上取得了 73.8% 的表现。CodeFuse 是蚂蚁自研的代码生成专属大模型,通过提供智能建议和实时支持,帮助开发者自动生成代码,提升研发效率。