हाल के वर्षों में, कृत्रिम बुद्धिमत्ता तकनीक में उल्लेखनीय प्रगति हुई है, लेकिन कंप्यूटेशनल दक्षता और बहुआयामीता के बीच समसामयिक चुनौतियाँ अभी भी मौजूद हैं। कई उन्नत मल्टी-मोडल मॉडल, जैसे GPT-4, आमतौर पर बड़े पैमाने पर कंप्यूटेशनल संसाधनों की आवश्यकता होती है, जिससे उनका उच्च अंत सर्वरों पर उपयोग सीमित हो जाता है, और स्मार्ट तकनीकों को स्मार्टफोन और टैबलेट जैसे किनारे के उपकरणों पर प्रभावी ढंग से उपयोग में लाने में कठिनाइयाँ उत्पन्न होती हैं। इसके अलावा, रीयल-टाइम वीडियो विश्लेषण या वॉयस-टू-टेक्स्ट जैसे कार्यों को संसाधित करना तकनीकी बाधाओं का सामना कर रहा है, जिससे सीमित हार्डवेयर परिस्थितियों में निर्बाध रूप से काम करने के लिए प्रभावी और लचीले एआई मॉडल की आवश्यकता को रेखांकित किया गया है।

एआई युग में, बड़े भाषा मॉडल (LLM) जैसे मार्शल आर्ट के गोपनीय ग्रंथ होते हैं, जिनके प्रशिक्षण में विशाल कंप्यूटिंग शक्ति और डेटा की आवश्यकता होती है, जैसे वर्षों तक समर्पित प्रशिक्षण करने वाले मार्शल आर्ट विशेषज्ञ। ओपन-सोर्स मॉडल की रिलीज ऐसे है जैसे विशेषज्ञ ने ग्रंथ को साझा किया, लेकिन इसमें कुछ लाइसेंस (जैसे Apache2.0 और LLaMA2 समुदाय लाइसेंस) होते हैं जो उनकी बौद्धिक संपदा (IP) की सुरक्षा करते हैं। हालाँकि, यह दुनिया खतरनाक होती है, और हमेशा 'खाल' घटनाएँ होती हैं। कुछ डेवलपर्स दावा करते हैं कि उन्होंने नए LLM को प्रशिक्षित किया है, जबकि वास्तव में वे अन्य मौलिक मॉडलों (जैसे Lla

30 अक्टूबर को, दीवार पर बुद्धिमत्ता और बैदू स्मार्ट क्लाउड ने रणनीतिक सहयोग की घोषणा की, दोनों पक्ष बड़े मॉडल के अंत-ध क्लाउड सहयोग समाधान को विकसित करने के लिए एक साथ काम करेंगे। सहयोग समझौते के अनुसार, दोनों पक्ष बैदू स्मार्ट क्लाउड के हजारों विशाल मॉडल प्लेटफॉर्म, जेनियस श्रृंखला के बड़े मॉडल, और दीवार पर मिनीसीपीएम श्रृंखला के अंत-पक्ष बड़े मॉडल और विभिन्न अनुप्रयोगों और विभिन्न दृश्यों की अग्रणी तकनीकी जमा को आधार बनाकर अंत-ध क्लाउड सहयोग तकनीकी समाधान को विकसित और बढ़ावा देंगे, जिसके द्वारा बड़े मॉडल को भौगोलिक बुद्धिमत्ता, स्मार्ट टर्मिनल, एज कंप्यूटिंग और अन्य अनुप्रयोग परिदृश्यों में मॉडल प्रदर्शन को बढ़ाने और बड़े मॉडल संवेदनाओं की लागत को कम करने में मदद मिलेगी।

दीवार पर छोटे गोलाकार MiniCPM-V श्रृंखला का नवीनतम संस्करण 2.6 GitHub और HuggingFace के ट्रेंडिंग चार्ट पर तेजी से Top3 पर पहुंच गया है, और सितारों की संख्या दस हजार को पार कर गई है। फरवरी में रिलीज़ के बाद, इसका कुल डाउनलोड एक मिलियन से अधिक हो गया है, और यह एज मॉडल क्षमता को मापने का बेंचमार्क बन गया है। MiniCPM-V2.6 ने 8B पैरामीटर्स के साथ एज मल्टी-मोडल मॉडल के प्रदर्शन में सुधार किया है, जिसमें रीयल-टाइम वीडियो समझ, बहु चित्र संयुक्त समझ और बहु चित्र ICL जैसी विशेषताएँ शामिल हैं। क्वांटाइजेशन के बाद, एज के लिए मेमोरी केवल 6GB है, और इन्फेरेंस की गति 18 टोकन प्रति सेकंड तक पहुँचती है।

MiniCPM-V2.6 का एंड-साइड मल्टी-मॉडल एआई मॉडल, जिसमें केवल 8B पैरामीटर हैं, ने 20B से कम एकल छवि, बहु छवि, वीडियो समझ में तीन SOTA (State of the Art, यानी वर्तमान सर्वोच्च स्तर) परिणाम हासिल किए हैं, जिससे एंड-साइड एआई की मल्टी-मॉडल क्षमता का महत्वपूर्ण रूप से सुधार हुआ है और यह GPT-4V स्तर से पूरी तरह से समकक्ष है।