面壁智能公司最近发布了MiniCPM3.0，这是一款性能卓越的AI模型，能够在仅2GB内存的设备上运行，预示着端侧AI体验的新时代。MiniCPM3.0模型拥有4B参数，性能上超越了GPT-3.5，能够在移动设备上实现与GPT-3.5水平相当的AI服务。这使得用户无需依赖云端处理即可享受快速、安全且功能丰富的本地AI服务，同时保证了更流畅和私密的智能交互体验。

面壁小钢炮MiniCPM-V系列的最新版本2.6在GitHub和HuggingFace趋势榜迅速攀升至Top3，星标数量突破万。自2月发布以来，累计下载量超过百万，成为衡量端侧模型能力的标杆。MiniCPM-V2.6以8B参数实现了端侧多模态模型的性能提升，包括实时视频理解、多图联合理解、多图ICL等功能，量化后端侧内存仅6GB，推理速度高达18tokens/s，比上代快33%，支持llama.cpp、ollama、vllm推理，兼容多种语言。此技术突破在全球技术圈引起广泛关注，GitHub和Hugging Face开源地址已公布，附带部署教程链接。

"MiniCPM-V2.6"的端侧多模态人工智能模型，它仅有8B参数却取得了20B以下单图、多图、视频理解三项SOTA（State of the Art，即当前最佳水平）成绩，显著提升了端侧AI的多模态能力，与GPT-4V水平全面对标。

MiniCPM-Llama3-V2.5的另一大亮点是其高效的能效。在手机端运行时，仅需8GB 的显存，配合 NVIDIA GeForce RTX4070显卡，便能实现快速推理，运行速度极快。此外，图像编码速度提升了150倍，首次实现了端侧系统级多模态加速。更令人印象深刻的是，该模型支持超过30种语言，为多语言环境提供了强大的支持。