面壁小鋼炮MiniCPM-Vシリーズの最新版2.6は、リリース以来、世界的に有名なオープンソースコミュニティGitHubとHugging FaceのトレンドランキングでTop3に急上昇し、GitHubのスター数は1万を超えました。2月1日の初公開以来、MiniCPMシリーズの累計ダウンロード数は100万回を超え、端末側モデル能力の限界を示す重要な指標となっています。

微信截图_20240813081342.png

MiniCPM-V2.6は、8Bパラメータで単一画像、複数画像、動画の理解において総合的な性能向上を実現し、GPT-4Vを凌駕しました。この端末側マルチモーダルモデルは、リアルタイム動画理解、複数画像の統合理解、複数画像ICLなど、高度な機能を初めて統合しています。量子化後の端末側メモリ使用量はわずか6GBで、端末側推論速度は18tokens/sと、前世代モデルより33％高速化され、llama.cpp、ollama、vllm推論をサポートし、複数の言語にも対応しています。

この技術的ブレークスルーは、世界中のテクノロジー界で大きな反響を呼び、多くの開発者やコミュニティメンバーがMiniCPM-V2.6のリリースに大きな関心を示しています。

現在、MiniCPM-V2.6のGitHubとHugging Faceのオープンソースアドレスが公開されており、llama.cpp、ollama、vllmの展開チュートリアルのリンクも提供されています。

MiniCPM-V2.6 GitHub オープンソースアドレス:

https://github.com/OpenBMB/MiniCPM-V

MiniCPM-V2.6 Hugging Face オープンソースアドレス:

https://huggingface.co/openbmb/MiniCPM-V-2_6

llama.cpp、ollama、vllm 展開チュートリアルアドレス:

https://modelbest.feishu.cn/docx/Duptdntfro2Clfx2DzuczHxAnhc