दीवार के सामने खड़े छोटे स्टील के तोप MiniCPM-V श्रृंखला का नवीनतम संस्करण 2.6, अपनी रिलीज़ के बाद से, विश्व प्रसिद्ध ओपन-सोर्स समुदाय GitHub और HuggingFace के ट्रेंड चार्ट में तेजी से Top3 में पहुंच गया है, और इसके GitHub स्टार की संख्या 10,000 से अधिक हो गई है। 1 फरवरी को पहली बार पेश किए जाने के बाद से, MiniCPM श्रृंखला की कुल डाउनलोड संख्या एक मिलियन से अधिक हो गई है, जो कि अंतर्निहित मॉडल की क्षमता के एक महत्वपूर्ण मापदंड के रूप में उभरी है।

微信截图_20240813081342.png

MiniCPM-V2.6 ने अपने 8B पैरामीटर के साथ एकल छवि, कई छवियों और वीडियो समझने में व्यापक प्रदर्शन सुधार किया है, GPT-4V को पीछे छोड़ते हुए। यह अंतर्निहित मल्टी-मॉडल मॉडल पहली बार वास्तविक समय वीडियो समझ, कई छवियों का संयुक्त समझ और कई छवियों का ICL जैसी उच्च अंत सुविधाओं को एकीकृत करता है। यह क्वांटाइजेशन के बाद पीछे की मेमोरी में केवल 6GB占 करता है, और अंतर्निहित अनुमान की गति 18tokens/s तक पहुंच जाती है, जो पिछले मॉडल से 33% तेज है, और यह llama.cpp, ollama, vllm अनुमान का समर्थन करता है, साथ ही कई भाषाओं का भी समर्थन करता है।

यह तकनीकी प्रगति वैश्विक तकनीकी समुदाय में उत्साही प्रतिक्रिया पैदा कर रही है, कई डेवलपर्स और समुदाय के सदस्यों ने MiniCPM-V2.6 के रिलीज़ के प्रति अत्यधिक रुचि दिखाई है।

वर्तमान में, MiniCPM-V2.6 का GitHub और Hugging Face ओपन-सोर्स पता सार्वजनिक किया गया है, साथ ही llama.cpp, ollama, vllm परिनियोजन ट्यूटोरियल के लिंक भी प्रदान किए गए हैं।

 MiniCPM-V2.6 GitHub ओपन-सोर्स पता:

https://github.com/OpenBMB/MiniCPM-V

MiniCPM-V2.6 Hugging Face ओपन-सोर्स पता:

https://huggingface.co/openbmb/MiniCPM-V-2_6

llama.cpp, ollama, vllm परिनियोजन ट्यूटोरियल का पता:

https://modelbest.feishu.cn/docx/Duptdntfro2Clfx2DzuczHxAnhc