最近，Meta AI 推出了全新的量化 Llama3.2模型，包含1B 和3B 两个版本，这款模型可以在多种设备上进行微调、蒸馏和部署。过去，虽然像 Llama3这样的模型在自然语言理解和生成方面取得了显著成就，但其庞大的体量和高计算需求使得很多组织难以使用。训练时间长、能源消耗高以及对昂贵硬件的依赖，无疑加大了科技巨头与小型企业之间的鸿沟。Llama3.2的特点之一就是支持多语言文本和图像处理。1B 和3B 模型经过量化处理，平均可以缩小56% 的体积，并且在内存使用上减少了41%，并实现2-3倍的

最近一周，AI 行业真是热闹非凡，谷歌和 Meta 都在推出新版本的 AI 模型，吸引了不少关注。首先，谷歌在周二宣布了其 Gemini 系列的新更新，推出了两个新的生产就绪模型 ——Gemini-1.5-Pro-002和 Gemini-1.5-Flash-002。这次更新大幅提升了模型的整体质量，尤其在数学、长上下文处理和视觉任务上都有显著进步。谷歌声称，在 MMLU-Pro 基准测试上，性能提升了7%，而数学相关任务的表现更是提高了20%。如果你关注 AI，应该知道基准测试的意义有限，但这次的数据还是很令人兴奋的。除了模型的性能提

Meta 在其年度 Meta Connect2024大会上发布了 Llama3.2，旨在提升边缘 AI 和视觉任务的能力。新推出的 Llama3.2模型包括11亿和90亿参数的中型视觉模型，以及1亿和3亿参数的小型模型，特别优化了在移动设备上的使用，支持高通和联发科的硬件。Meta 首席执行官马克・扎克伯格表示，这些模型将帮助开发者在不需要庞大资源的情况下实现创新，推动移动设备上的应用。“Llama3.2模型为开发人员带来了最先进的功能，而无需大量资源，可以直接在边缘和移动设备上实现创新和突破”值得一提的是，官方