चीनी कृत्रिम बुद्धिमत्ता कंपनी DeepSeek ने हाल ही में एक मील का पत्थर साबित करने वाला ओपन-स्रोत बड़ा भाषा मॉडल DeepSeek V3 जारी किया है। इस मॉडल में 6710 करोड़ पैरामीटर हैं, जो न केवल Meta के Llama3.1 को पार करता है, बल्कि कई बेंचमार्क परीक्षणों में GPT-4 सहित प्रमुख बंद स्रोत मॉडलों से बेहतर प्र प्रदर्शन भी करता है। DeepSeek V3 की मुख्य विशेषता इसकी मजबूत प्रदर्शन और कुशल विकास प्रक्रिया है। यह मॉडल प्रोग्रामिंग प्लेटफार्म Codeforces की प्रतियोगिताओं में उत्कृष्टता दिखाता है और परीक्षण में।

IBM ने अपने नए पीढ़ी के ओपन-स्रोत बड़े भाषा मॉडल Granite3.1 को आधिकारिक रूप से जारी किया, जिसका लक्ष्य एंटरप्राइज एआई क्षेत्र में领先 स्थिति प्राप्त करना है। इस श्रृंखला के मॉडल में 128K का विस्तारित संदर्भ लंबाई, एम्बेडिंग मॉडल, अंतर्निर्मित幻觉 पहचान क्षमता और प्रदर्शन में उल्लेखनीय वृद्धि शामिल है। IBM का दावा है कि Granite8B Instruct मॉडल समान आकार के ओपन-सोर्स प्रतिस्पर्धियों में सर्वश्रेष्ठ प्रदर्शन करता है, जिसमें मेटा का Llama3.1, Qwen2.5 और गूगल का Gemma2 शामिल है।

Reflection70B, एक ओपन-सोर्स एआई मॉडल जो HyperWrite द्वारा जारी किया गया है, दावा करता है कि यह Meta कंपनी के Llama3.1 का एक प्रकार है और तीसरे पक्ष के परीक्षणों में उत्कृष्ट प्रदर्शन करके ध्यान आकर्षित करता है। हालाँकि, इसके बाद जो व्यापक प्रश्न उठे, वे HyperWrite के संस्थापक मैट शूमर के सोशल मीडिया पर ''विश्व का सबसे मजबूत ओपन-सोर्स मॉडल'' के रूप में मॉडल की घोषणा करने और उनकी ''प्रतिबिंब ट्यूनिंग'' तकनीक साझा करने से उत्पन्न हुए। लेकिन आर्टिफिशियल एनालिसिस संगठन की स्वतंत्र विश्लेषण

HyperWrite कंपनी ने Meta के ओपन-सोर्स Llama3.1-70B Instruct पर आधारित Reflection70B मॉडल के लॉन्च की घोषणा की, यह मॉडल तृतीय पक्ष बेंचमार्क परीक्षणों में उत्कृष्ट प्रदर्शन करता है और इसे 'दुनिया का सबसे शक्तिशाली ओपन-सोर्स AI मॉडल' कहा गया है। नए मॉडल में आत्म-सुधार तकनीक है, जो उच्च-शुद्धता उत्तर प्रदान करती है और कई परीक्षणों में Meta Llama श्रृंखला को पार कर जाती है। इसे Hugging Face प्लेटफॉर्म पर डाउनलोड के लिए उपलब्ध कराया गया है, Hyperbolic La के माध्यम से।

Cerebras Systems ने Cerebras Inference लॉन्च किया, जो दुनिया की सबसे तेज़ एआई इन्फेरेंस सेवा होने का दावा करता है, प्रदर्शन GPU आधारित पारंपरिक सिस्टम पर 20 गुना बढ़ता है, लागत की प्रभावशीलता काफी बढ़ गई है, विशेष रूप से बड़े भाषा मॉडल (LLMs) को संसाधित करने के लिए। इसका 8B संस्करण प्रति सेकंड 1800 टोकन को संसाधित करता है, जबकि 70B संस्करण 450 टोकन को संसाधित करता है, गति और लागत-प्रदर्शन NVIDIA GPU समाधानों से बहुत आगे हैं। Cerebras Inference को बनाए रखते हुए

एक सिर्फ 10 लोगों की स्टार्टअप कंपनी Nous Research ने अपने AI मॉडल Hermes3 के साथ टेक दिग्गज Meta को चुनौती दी है। Hermes3 Llama3.1 मॉडल पर माइक्रो-ट्यून किया गया है, जो मजबूत प्रदर्शन, VRAM और डिस्क आवश्यकताओं का अनुकूलन करता है, और एकल नोड पर चलता है। यह मॉडल बातचीत की क्षमता, पाठ की गुणवत्ता की समझ और समेकित बुद्धिमान क्षमताओं में उत्कृष्टता प्रदर्शित करता है, जो पारंपरिक भाषा मॉडलिंग से परे एक उच्च स्तरीय क्षमता को दिखाता है। Nous Research ओपन-सोर्स पर ध्यान केंद्रित करती है।

नई शोध ने यह उजागर किया है कि बड़े भाषा मॉडल (LLM) सर्च फ़ंक्शन के माध्यम से प्रदर्शन में महत्वपूर्ण सुधार करने की क्षमता रखते हैं, विशेष रूप से Python कोड निर्माण कार्य में, जिसमें केवल 800 मिलियन पैरामीटर वाला Llama3.1 मॉडल 100 बार सर्च करने के बाद GPT-4o के बराबर प्रदर्शन करता है। यह खोज रिच सटन के 2019 के विचारों के साथ मेल खाती है, कि कंप्यूटिंग क्षमता के वृद्धि के अंतर्गत, सामान्य तरीकों और सर्च, लर्निंग रणनीतियों का संयोजन बहुत महत्वपूर्ण है। शोधकर्ताओं ने पाया कि अनुमान चरण में दोबारा नमूना लेने की संख्या बढ़ाने से मॉडल की क्षमता में महत्वपूर्ण सुधार होता है।

मेटा द्वारा प्रकाशित Prompt-Guard-86M मॉडल प्रॉम्प्ट इंजेक्शन हमलों के खिलाफ रक्षा का लक्ष्य रखता है, बड़े भाषा मॉडल के अनुपयुक्त इनपुट को संभालने में सीमित करना, प्रणाली की सुरक्षा की रक्षा करना। हालाँकि, यह मॉडल खुद भी हमले के जोखिम को उजागर करता है। अमन प्रियंशु के शोध में पाया गया है कि, इनपुट में स्पेस जैसे सरल वर्ण विभाजन जोड़ने या विराम चिह्नों को हटाने के माध्यम से, मॉडल पूर्व की सुरक्षा निर्देशों को अनदेखा कर देता है, हमले की सफलता दर लगभग 100% है। यह खोज AI सुरक्षा के महत्व को उजागर करती है, हालाँकि प्रॉम्प्ट

Meta कंपनी ने नवीनतम AI मॉडल Llama3.1 के प्रशिक्षण के लिए 16,384 GPU का उपयोग किया, जिसने AI तकनीक की आश्चर्यजनक विकास गति को प्रदर्शित किया। हालांकि, इस प्रक्रिया में औसतन हर 3 घंटे में एक बार समस्या उत्पन्न होती है, कुल 419 समस्याएं आईं, जिनमें से लगभग आधे H100 GPU और उनके HBM3 मेमोरी से संबंधित हैं। यह डेटा दर्शाता है कि सुपरकंप्यूटिंग सिस्टम प्रदर्शन में सुधार के प्रयास में विश्वसनीयता की चुनौतियों का सामना करते हैं। Llama3.1 प्रशिक्षण समूह की जटिलता एक छोटे शहर के तंत्रिका नेटवर्क के समान है, जिससे बार-बार समस्याएं उत्पन्न होती हैं। Meta टीम ने रणनीतियों को अपनाया, जैसे कि कमी।

Meta के वैज्ञानिक Thomas Scialom ने Llama3.1 के विकास के रहस्यों का खुलासा किया, जिसका 405B का पैरामीटर आकार GPT-4 का मुकाबला करने के लिए है। आर्किटेक्चर के बजाय प्रशिक्षण के टोकनों की संख्या बढ़ाकर, Llama3.1 ने मॉडल के आकार और प्रशिक्षण डेटा की कुल मात्रा के बीच का संतुलन हासिल किया, जिससे ज्ञान की गहराई और चौड़ाई में एक छलांग मिली। डेटा चयन में, Scialom सार्वजनिक इंटरनेट पाठ के बजाय सिंथेटिक डेटा को प्राथमिकता देते हैं। Llama3.1 के मूल्यांकन और सुधार के लिए पुरस्कार मॉडल और विविधता के मानक का उपयोग किया जाता है।

OpenAI ने GPT-4o मिनी लॉन्च करने की घोषणा की है, जो प्रतिदिन 200 मिलियन प्रशिक्षण टोकन के साथ मुफ्त ट्यूनिंग प्रदान करता है, जो 23 सितंबर तक जारी रहेगा, जिसका उद्देश्य एआई प्रौद्योगिकी में प्रगति और विकासकर्ताओं की नवोन्मेष को बढ़ावा देना है। यह मॉडल प्रदर्शन में GPT-4o के बराबर है, लेकिन इसकी कीमत पिछले मॉडल का केवल 1/20 है, और प्रशिक्षण लागत, संदर्भ की लंबाई और बुद्धिमत्ता के अवसरों में भी महत्वपूर्ण लाभ है। मुफ्त अवधि के बाद, सेवा निरंतर छूट मूल्य पर उपलब्ध रखी जाएगी। GPT-4o मिनी का ट्यूनिंग फ़ीचर पहले निगमों और विशेष विकासकर्ताओं के स्तर पर खोलने की योजना है।

Mistral AI ने आज अपने प्रमुख मॉडल Mistral Large2 को पेश किया, जिसका पैरामीटर आकार 1230 अरब है, जिसमें 128k संदर्भ विंडो है, और यह फ्रेंच, जर्मन, स्पेनिश सहित कई भाषाओं और प्रोग्रामिंग भाषाओं का समर्थन करता है। Mistral Large2 को एकल नोड अनुमान के लिए डिज़ाइन किया गया है, जो लंबे संदर्भ अनुप्रयोगों के लिए उपयुक्त है, और प्रदर्शन में उत्कृष्ट प्रदर्शन करता है, MMLU बेंचमार्क परीक्षण में सटीकता 84.0% तक पहुँचती है। इसके अलावा, Mistral Large2 में बहु-भाषा प्रसंस्करण की क्षमता है।

Meta ने Llama3.1 ओपन-सोर्स मॉडल श्रृंखला लॉन्च की, जिसमें 405B पैरामीटर संस्करण शामिल हैं, जो GPT-4 के समान प्रदर्शन करते हैं। इनमें से, 8B पैरामीटर संस्करण Llama3.1-8B-Instruct कई भाषाओं का समर्थन करता है, पाठ की लंबाई 131072 टोकन तक पहुँचती है, और 2500万合成 डेटा के माध्यम से प्रशिक्षित किया गया है, जो GPT3.5Turbo के समान संज्ञानात्मक और अनुमानित क्षमताओं को प्रदर्शित करता है। OpenBuddy ने इस मॉडल के आधार पर चीनी प्रश्न-उत्तर और क्रॉस-भाषा अनुवाद का समर्थन करने वाला OpenBuddy-L जारी किया।

अमेज़न क्लाउड टेक्नोलॉजी ने अपने Amazon Bedrock प्लेटफॉर्म पर Llama3.1 मॉडल को लॉन्च किया है, जो Meta द्वारा विकसित एक उन्नत AI मॉडल श्रृंखला है। इसमें 8B, 70B और 405B के तीन प्रकार के पैरामीटर शामिल हैं, जो उत्कृष्ट प्रदर्शन दिखाते हैं, और इसमें अंग्रेजी, जर्मन सहित 8 भाषाओं के कई संवाद उपयोग मामलों का समर्थन करते हैं। मॉडल में Llama3.1405B शामिल है, जो व्यापारिक अनुप्रयोगों और शोध के लिए उपयुक्त है, सामान्य ज्ञान, लंबी पाठ उत्पत्ति आदि में विशेषज्ञता रखता है; Llama3.170B विषय सामग्री रचनात्मकता, संवादात्मक AI आदि के क्षेत्रों के लिए उपयुक्त है।

हाल ही में Cloudflare ने घोषणा की कि, Meta कंपनी के पहले भागीदारों में से एक के रूप में, उन्होंने Workers AI प्लेटफ़ॉर्म पर Meta द्वारा जारी किया गया नवीनतम Llama3.18B मॉडल लॉन्च किया है। यह कदम डेवलपर्स को इस नवीनतम AI उपकरण का उपयोग करने की अनुमति देता है, जो कि मॉडल की घोषणा के पहले ही दिन से संभव है।

Meta AI द्वारा जारी किए गए Llama3.1 मॉडल ने प्रदर्शन के मामले में शीर्ष बंद-सोर्स मॉडलों के साथ प्रतिस्पर्धा की है, जो ओपन-सोर्स AI में एक महत्वपूर्ण सफलता का प्रतीक है। यह अगली पीढ़ी का एक बड़ा भाषा मॉडल है, जिसे अनुकूलित प्रशिक्षण स्टैक और बड़े पैमाने पर GPU संसाधनों के समर्थन के साथ विकसित किया गया है, जिसमें कई तकनीकी विशेषताएं शामिल हैं। इसमें संदर्भ की लंबाई को 128K तक बढ़ाना, 8 भाषाओं का समर्थन करना, और कई परीक्षण क्षेत्रों में उत्कृष्ट क्षमता प्रदर्शित करना शामिल है। प्रशिक्षण के बाद की प्रक्रिया के माध्यम से, मॉडल प्रदर्शन में लगातार सुधार करता है, विशेष रूप से निर्देशों का पालन करने, निरंतरता, और बहु-भाषाई अनुवाद में।

मेटा कंपनी के CEO मार्क ज़करबर्ग ने हाल ही में Llama3.1 के आधिकारिक विमोचन की घोषणा की है, और कहा है कि यह खुला स्रोत AI के क्षेत्र में एक महत्वपूर्ण मील का पत्थर हो सकता है। मेटा ने इस बार तीन विभिन्न आकार के Llama3.1 मॉडल पेश किए हैं, जिनमें सबसे ध्यान आकर्षित करने वाला 4050 अरब पैरामीटर वाला बड़ा मॉडल है। ज़करबर्ग ने इसे वर्तमान में सबसे उन्नत खुला स्रोत मॉडल बताया है, जो कुछ क्षेत्रों में प्रमुख बंद स्रोत मॉडलों के साथ प्रतिस्पर्धा कर सकता है।