फोर्ब्स की रिपोर्ट के अनुसार, मेटा (जिसे पहले फेसबुक के नाम से जाना जाता था) एक दक्षिण कोरियाई चिप स्टार्टअप FuriosaAI का अधिग्रहण करने के लिए सक्रिय रूप से बातचीत कर रहा है। इस कदम का उद्देश्य मेटा की आर्टिफिशियल इंटेलिजेंस हार्डवेयर बुनियादी ढांचे को मजबूत करना है ताकि AI की बढ़ती मांग का सामना किया जा सके। FuriosaAI की स्थापना कई पूर्व सैमसंग और AMD कर्मचारियों ने की थी, जो AI मॉडल चलाने को तेज करने वाले चिप्स के विकास पर ध्यान केंद्रित कर रहे हैं, जो मेटा के टेक्स्ट जनरेशन मॉडल जैसे Llama2 और Llama3 के लिए उपयुक्त हैं।

हाल ही में, Cerebras Systems और Perplexity AI ने सहयोग की घोषणा की, जिससे एक नए सुपर फास्ट AI सर्च मॉडल Sonar का लॉन्च हुआ, जिसका लक्ष्य पारंपरिक सर्च इंजनों की प्रमुखता को चुनौती देना है। सहयोग का मुख्य केंद्र Sonar मॉडल है, जो Cerebras के विशेष AI चिप पर काम करता है, जिसकी गति 1200 टोकन प्रति सेकंड है, जो वर्तमान में बाजार में सबसे तेज AI सर्च सिस्टम में से एक है। Sonar मॉडल Meta पर आधारित है

Meta के चल रहे कृत्रिम बुद्धिमत्ता कॉपीराइट मामले में जिनमें से एक है Kadrey बनाम Meta, अदालत द्वारा जारी किए गए आंतरिक संदेश इस कंपनी के Llama3 विकसित करने के दौरान तीव्र प्रतिस्पर्धा और संभावित कॉपीराइट मुद्दों को उजागर करते हैं। Meta के उच्च स्तरीय नेतृत्व और शोधकर्ताओं ने AI मॉडल विकास में OpenAI और Anthropic जैसी कंपनियों से आगे बढ़ने के लिए सभी प्रयास किए हैं, और उनके GPT-4 और Claude को प्रयास का मानक माना गया है। तीव्र प्रतिस्पर्धात्मक मानसिकता: Meta ने हराने की शपथ ली

हाल ही में, मेटा कंपनी द्वारा एक सामूहिक मुकदमे में प्रकाशित दस्तावेजों के साथ, यह खबर आई है कि कंपनी ने अपने नवीनतम एआई चैटबॉट Llama3 को प्रशिक्षित करने के लिए Library Genesis (LibGen) नामक पाइरेसी ई-बुक पुस्तकालय का उपयोग किया है। इन दस्तावेजों से पता चलता है कि मेटा के इंजीनियरों ने LibGen के इस "छायादार पुस्तकालय" का संभावित जोखिमों पर चर्चा की, खासकर जब कॉपीराइट और डेटा स्वामित्व के मुद्दे बढ़ रहे हैं।

हाल ही में, कृत्रिम बुद्धिमत्ता के कॉपीराइट से जुड़े एक मामले के चलते - कड्रे बनाम मेटा मामले की प्रगति के साथ, मेटा कंपनी के अंदर की खबरें अदालत द्वारा सार्वजनिक की गईं, जिससे पता चला कि कंपनी के उच्च अधिकारी Llama3 के विकास के दौरान OpenAI के GPT-4 मॉडल को मात देने के लिए अडिग थे। मेटा के जेनरेटिव एआई के उपाध्यक्ष अहमद अल-डहले ने अक्टूबर 2023 के एक संदेश में उल्लेख किया: "ईमानदारी से, हमारा लक्ष्य GPT होना चाहिए।"

चीनी कृत्रिम बुद्धिमत्ता कंपनी DeepSeek ने हाल ही में एक मील का पत्थर साबित करने वाला ओपन-स्रोत बड़ा भाषा मॉडल DeepSeek V3 जारी किया है। इस मॉडल में 6710 करोड़ पैरामीटर हैं, जो न केवल Meta के Llama3.1 को पार करता है, बल्कि कई बेंचमार्क परीक्षणों में GPT-4 सहित प्रमुख बंद स्रोत मॉडलों से बेहतर प्र प्रदर्शन भी करता है। DeepSeek V3 की मुख्य विशेषता इसकी मजबूत प्रदर्शन और कुशल विकास प्रक्रिया है। यह मॉडल प्रोग्रामिंग प्लेटफार्म Codeforces की प्रतियोगिताओं में उत्कृष्टता दिखाता है और परीक्षण में।

IBM ने अपने नए पीढ़ी के ओपन-स्रोत बड़े भाषा मॉडल Granite3.1 को आधिकारिक रूप से जारी किया, जिसका लक्ष्य एंटरप्राइज एआई क्षेत्र में领先 स्थिति प्राप्त करना है। इस श्रृंखला के मॉडल में 128K का विस्तारित संदर्भ लंबाई, एम्बेडिंग मॉडल, अंतर्निर्मित幻觉 पहचान क्षमता और प्रदर्शन में उल्लेखनीय वृद्धि शामिल है। IBM का दावा है कि Granite8B Instruct मॉडल समान आकार के ओपन-सोर्स प्रतिस्पर्धियों में सर्वश्रेष्ठ प्रदर्शन करता है, जिसमें मेटा का Llama3.1, Qwen2.5 और गूगल का Gemma2 शामिल है।

Meta ने हाल ही में अपने Llama श्रृंखला के नवीनतम सदस्य - Llama3.370B - का अनावरण किया। Meta के जनरेटिव AI के उपाध्यक्ष अहमद अल-डाहले ने X प्लेटफॉर्म पर इस खबर की घोषणा की और बताया कि Llama3.370B ने Meta के पिछले सबसे बड़े Llama मॉडल Llama3.1405B की तुलना में प्रदर्शन में महत्वपूर्ण प्रगति की है, साथ ही लागत में भारी कमी आई है। अल-डाहले ने कहा कि नवीनतम तकनीकों के प्रशिक्षण का लाभ उठाते हुए, Llama3.370B

हाल ही में, AI बड़े भाषा मॉडल (LLM) ने विभिन्न कार्यों में उत्कृष्ट प्रदर्शन किया है, कविता लिखने, कोड लिखने और बातचीत करने में सक्षम हैं, ये सब कुछ कर सकते हैं! लेकिन, क्या आप विश्वास कर सकते हैं? ये 'जीनियस' AI वास्तव में 'गणित में नौसिखिए' हैं! जब ये सरल अंकगणित प्रश्नों को हल करने की कोशिश करते हैं, तो अक्सर ये फंस जाते हैं, जिससे लोग हैरान रह जाते हैं। एक हालिया अध्ययन ने LLM की गणितीय तर्क क्षमता के पीछे के 'अनोखे' रहस्य का पर्दाफाश किया: ये न तो शक्तिशाली एल्गोरिदम पर निर्भर करते हैं और न ही पूरी तरह से स्मृति पर, बल्कि एक रणनीति का उपयोग करते हैं जिसे 'कारगर मिश्रण' कहा जाता है!

हाल ही में, Meta AI ने नए मात्रा वाले Llama 3.2 मॉडल को पेश किया, जिसमें 1B और 3B दो संस्करण शामिल हैं। यह मॉडल विभिन्न उपकरणों पर समायोजन, आसुतकरण और कार्यान्वयन के लिए बनाया गया है। पिछले समय में, Llama जैसे मॉडल प्राकृतिक भाषा समझने और उत्पन्न करने में महत्वपूर्ण उपलब्धियाँ हासिल की हैं, लेकिन इसका विशाल आकार और उच्च कंप्यूटिंग आवश्यकता ने कई संगठनों के लिए इसका उपयोग करना कठिन बना दिया है। प्रशिक्षण समय लंबा, ऊर्जा खपत अधिक और महंगे हार्डवेयर पर निर्भरता, निश्चित रूप से तकनीकी दिग्गजों और छोटे व्यवसायों के बीच की खाई को बढ़ाती है। Llama3.2

हाल ही में, Zyphra ने Zamba2-7B का औपचारिक रूप से विमोचन किया, जो एक छोटे भाषा मॉडल है जिसमें अभूतपूर्व प्रदर्शन है, इसके पैरामीटर की संख्या 7B है। इस मॉडल का दावा है कि यह गुणवत्ता और गति दोनों में वर्तमान प्रतियोगियों जैसे Mistral-7B, Google's Gemma-7B और Meta के Llama3-8B को पीछे छोड़ देता है। Zamba2-7B का डिज़ाइन उद्देश्य उन वातावरणों की आवश्यकताओं को पूरा करना है जो शक्तिशाली भाषा प्रसंस्करण क्षमता की आवश्यकता रखते हैं लेकिन हार्डवेयर की सीमाओं से बाधित हैं, जैसे उपकरणों पर प्रसंस्करण या उपयोग में।

प्राकृतिक भाषा प्रसंस्करण के क्षेत्र में, बड़े भाषा मॉडल (LLMs) का तेजी से विकास हुआ है और कई क्षेत्रों में महत्वपूर्ण प्रगति हासिल की गई है। हालाँकि, जैसे-जैसे मॉडलों की जटिलता बढ़ती है, उनके आउटपुट का सटीक मूल्यांकन करना महत्वपूर्ण हो जाता है। पारंपरिक रूप से, हम मूल्यांकन के लिए मानवों पर निर्भर करते हैं, लेकिन यह तरीका समय लेने वाला और स्केल करने में कठिन है, और मॉडल के तेज विकास के साथ नहीं चल सकता। इस स्थिति को बदलने के लिए, Salesforce AI अनुसंधान टीम ने SFR-Judge पेश किया है, जो तीन बड़े भाषा मॉडलों का समूह है।

हाल ही में एक हफ्ते में, AI उद्योग सचमुच जीवंत रहा है, गूगल और मेटा दोनों नए संस्करण के AI मॉडल पेश कर रहे हैं, जिससे काफी ध्यान आकर्षित हुआ है। सबसे पहले, गूगल ने मंगलवार को अपने Gemini श्रृंखला के नए अपडेट की घोषणा की, जिसमें दो नए उत्पादन-तैयार मॉडल प्रस्तुत किए गए हैं - Gemini-1.5-Pro-002 और Gemini-1.5-Flash-002। इस अपडेट ने मॉडल की समग्र गुणवत्ता में काफी सुधार किया है, विशेष रूप से गणित, लंबे संदर्भ की प्रक्रिया और दृश्य कार्यों में महत्वपूर्ण प्रगति हुई है। गूगल का दावा है,

मेटा ने अपनी वार्षिक मेटा कनेक्ट 2024 सम्मेलन में Llama3.2 का अनावरण किया, जिसका उद्देश्य मार्जिन एआई और दृश्य कार्यों की क्षमताओं को बढ़ाना है। नए Llama3.2 मॉडल में 1.1 अरब और 9 अरब पैरामीटर वाले मध्यम आकार के दृश्य मॉडल शामिल हैं, साथ ही 1 करोड़ और 3 करोड़ पैरामीटर वाले छोटे मॉडल भी हैं, जो विशेष रूप से मोबाइल उपकरणों पर उपयोग के लिए अनुकूलित किए गए हैं, और क्वालकॉम तथा मीडियाटेक के हार्डवेयर का समर्थन करते हैं। मेटा के सीईओ मार्क जुकरबर्ग ने कहा कि ये मॉडल डेवलपर्स को बड़े संसाधनों की आवश्यकता के बिना काम करने में मदद करेंगे।

Reflection70B, एक ओपन-सोर्स एआई मॉडल जो HyperWrite द्वारा जारी किया गया है, दावा करता है कि यह Meta कंपनी के Llama3.1 का एक प्रकार है और तीसरे पक्ष के परीक्षणों में उत्कृष्ट प्रदर्शन करके ध्यान आकर्षित करता है। हालाँकि, इसके बाद जो व्यापक प्रश्न उठे, वे HyperWrite के संस्थापक मैट शूमर के सोशल मीडिया पर ''विश्व का सबसे मजबूत ओपन-सोर्स मॉडल'' के रूप में मॉडल की घोषणा करने और उनकी ''प्रतिबिंब ट्यूनिंग'' तकनीक साझा करने से उत्पन्न हुए। लेकिन आर्टिफिशियल एनालिसिस संगठन की स्वतंत्र विश्लेषण

HyperWrite कंपनी ने Meta के ओपन-सोर्स Llama3.1-70B Instruct पर आधारित Reflection70B मॉडल के लॉन्च की घोषणा की, यह मॉडल तृतीय पक्ष बेंचमार्क परीक्षणों में उत्कृष्ट प्रदर्शन करता है और इसे 'दुनिया का सबसे शक्तिशाली ओपन-सोर्स AI मॉडल' कहा गया है। नए मॉडल में आत्म-सुधार तकनीक है, जो उच्च-शुद्धता उत्तर प्रदान करती है और कई परीक्षणों में Meta Llama श्रृंखला को पार कर जाती है। इसे Hugging Face प्लेटफॉर्म पर डाउनलोड के लिए उपलब्ध कराया गया है, Hyperbolic La के माध्यम से।

Mamba टीम के शोध के निष्कर्ष बड़े Transformer मॉडल Llama को Mamba में "डिस्टिल" करने पर केंद्रित हैं, एक नए प्रकार की निष्कर्षण डिकोडिंग एल्गोरिदम के डिज़ाइन के माध्यम से, निष्कर्षण गति में काफी वृद्धि की गई है। शोध का लक्ष्य Llama के समृद्ध ज्ञान का उपयोग करते हुए बड़े मॉडल को शून्य से प्रशिक्षण के उच्च लागत को कम करना है। शोध टीम ने प्रगतिशील डिस्टिलेशन, पर्यवेक्षित माइक्रो-ट्यूनिंग और लक्ष्य-प्रवृत्ति ऑप्टिमाइजेशन जैसे तरीकों को संयोजित किया, जिससे Zephyr-7B और Llama-38B को सफलतापूर्वक रैखिक RNN में परिवर्तित किया गया।

Cerebras Systems ने Cerebras Inference लॉन्च किया, जो दुनिया की सबसे तेज़ एआई इन्फेरेंस सेवा होने का दावा करता है, प्रदर्शन GPU आधारित पारंपरिक सिस्टम पर 20 गुना बढ़ता है, लागत की प्रभावशीलता काफी बढ़ गई है, विशेष रूप से बड़े भाषा मॉडल (LLMs) को संसाधित करने के लिए। इसका 8B संस्करण प्रति सेकंड 1800 टोकन को संसाधित करता है, जबकि 70B संस्करण 450 टोकन को संसाधित करता है, गति और लागत-प्रदर्शन NVIDIA GPU समाधानों से बहुत आगे हैं। Cerebras Inference को बनाए रखते हुए

Meta का ओपन-सोर्स बड़ा मॉडल Llama3 बाजार में ठंडा हो गया है, जिसने बंद-स्रोत मॉडलों के साथ प्रतिस्पर्धा को बढ़ावा दिया है। अमेज़न AWS की प्रतिक्रिया ठंडी रही, और कॉर्पोरेट ग्राहक Anthropic के बंद-स्रोत मॉडल Claude को प्राथमिकता दे रहे हैं। माइक्रोसॉफ्ट भी इंजीनियरों और डेटा वैज्ञानिकों की टीमों को अन्य मॉडलों का उपयोग करने की सिफारिश करने की प्रवृत्ति रखता है। यह परिघटना Meta को एक विशेष एआई बिक्री टीम बनाने पर विचार करने के लिए प्रेरित कर रही है ताकि बेहतर कॉर्पोरेट सेवा की जा सके। ओपन-सोर्स मॉडलों को व्यावसायीकरण के दौरान चुनौतियों का सामना करना पड़ रहा है, वास्तविक प्रदर्शन और व्यावसायिक लाभ अपेक्षाओं पर खरे नहीं उतर रहे हैं।

Nvidia के शोध दल ने मॉडल प्रूनिंग और डिस्टिलेशन तकनीकों का उपयोग करके Llama-3.1-Minitron4B को सफलतापूर्वक पेश किया, जो Llama3 मॉडल का संकुचित संस्करण है, जिसका उद्देश्य डिवाइस पर कृत्रिम बुद्धिमत्ता को सक्षम करना है। इस मॉडल ने गहरे प्रूनिंग और चौड़े प्रूनिंग तकनीकों के माध्यम से मूल 8B मॉडल के पैरामीटर की मात्रा को कम कर दिया है, जबकि बड़े मॉडलों के समान प्रदर्शन बनाए रखने में सक्षम रहा है। प्रशिक्षण डेटा की मात्रा में 40 गुना कमी के बावजूद, इस मॉडल ने MMLU मानक परीक्षण में 16% प्रदर्शन सुधार किया है। इस उपलब्धि को NVIDIA के द्वारा पेश किया गया है।