Mozilla ने हाल ही में अपने Mozilla Builders प्रोग्राम के माध्यम से LocalScore नामक एक उपकरण लॉन्च किया है, जिसका उद्देश्य स्थानीय बड़े भाषा मॉडल (LLM) के लिए आसान बेंचमार्किंग प्रदान करना है। यह उपकरण Windows और Linux सिस्टम के साथ संगत है, इसमें बहुत अधिक क्षमता है, और यह आसानी से वितरित किए जा सकने वाले LLM ढाँचे का एक महत्वपूर्ण हिस्सा बन गया है। हालाँकि LocalScore अभी भी शुरुआती विकास चरण में है, लेकिन इसका प्रदर्शन काफी अच्छा है।
LocalScore पिछले हफ़्ते जारी किए गए Llamafile 0.9.2 संस्करण पर आधारित है, इस अपडेट ने LocalScore को एक व्यावहारिक बेंचमार्किंग उपकरण बना दिया है जो CPU और GPU पर बड़े भाषा मॉडल के प्रदर्शन का मूल्यांकन कर सकता है। इस उपकरण के माध्यम से, उपयोगकर्ता आसानी से LLM सिस्टम के प्रदर्शन को माप सकते हैं और तेज़ और विश्वसनीय परिणाम प्राप्त कर सकते हैं।
उपयोगकर्ता सीधे Llamafile पैकेज से LocalScore को कॉल करना चुन सकते हैं, या Windows और Linux के लिए स्वतंत्र LocalScore बाइनरी फ़ाइलों का उपयोग कर सकते हैं, जिससे AI बेंचमार्किंग आसान हो जाती है। उल्लेखनीय है कि LocalScore.ai एक वैकल्पिक भंडार के रूप में कार्य करता है, जो विशेष रूप से CPU और GPU बेंचमार्किंग परिणामों को संग्रहीत करने के लिए डिज़ाइन किया गया है, ये परिणाम Meta Llama3.1 मॉडल के आधिकारिक मॉडल पर आधारित गणनाएँ हैं। LocalScore.ai के माध्यम से उपयोगकर्ता आसानी से बेंचमार्किंग चला सकते हैं, यह प्रक्रिया सरल और स्पष्ट है।
LocalScore के लॉन्च ने न केवल AI और LLM क्षेत्र में Mozilla के प्रभाव को बढ़ाया है, बल्कि डेवलपर्स और शोधकर्ताओं को एक ओपन-सोर्स, सुविधाजनक बेंचमार्किंग उपकरण भी प्रदान किया है। Mozilla Builders प्रोग्राम अधिक उपयोगकर्ता-अनुकूल, तेज़ी से परिनियोजित किए जा सकने वाले क्रॉस-प्लेटफ़ॉर्म ओपन-सोर्स AI बेंचमार्किंग उपकरणों के आगमन की उम्मीद करता है ताकि AI तकनीक के विकास को बढ़ावा मिल सके।
