फोर्ब्स की रिपोर्ट के अनुसार, मेटा (जिसे पहले फेसबुक के नाम से जाना जाता था) एक दक्षिण कोरियाई चिप स्टार्टअप FuriosaAI का अधिग्रहण करने के लिए सक्रिय रूप से बातचीत कर रहा है। इस कदम का उद्देश्य मेटा की आर्टिफिशियल इंटेलिजेंस हार्डवेयर बुनियादी ढांचे को मजबूत करना है ताकि AI की बढ़ती मांग का सामना किया जा सके। FuriosaAI की स्थापना कई पूर्व सैमसंग और AMD कर्मचारियों ने की थी, जो AI मॉडल चलाने को तेज करने वाले चिप्स के विकास पर ध्यान केंद्रित कर रहे हैं, जो मेटा के टेक्स्ट जनरेशन मॉडल जैसे Llama2 और Llama3 के लिए उपयुक्त हैं।

मेटा एआई की नवीनतम परियोजना लामा 3 सिंथेटिक डेटा पर आधारित उत्तरों को प्रशिक्षित करने पर ध्यान केंद्रित करती है, जो मानव द्वारा लिखी गई प्रतिक्रियाओं के बजाय है, ताकि कोड जनरेशन, गणितीय तर्क, बहुभाषी प्रोसेसिंग और लंबे पाठों के प्रबंधन में मॉडल की कार्यक्षमता को अनुकूलित किया जा सके। लामा 3 कोड जनरेशन के लिए सिंथेटिक डेटा उत्पन्न करने के तीन तरीकों का उपयोग करता है, गणितीय तर्क के लिए शोध विधियों का उपयोग करता है, और बहुभाषी पूर्व-प्रशिक्षण के लिए उच्च गुणवत्ता की मानव टिप्पणियाँ एकत्र करता है। इसके अतिरिक्त, लामा 3 ने ब्रेव सर्च, वोल्फ्राम अल्फा और पायथन इंटरप्रेटर पर प्रशिक्षण में सुधार किया है।

तिंहुआ विश्वविद्यालय ने नवीनतम अनुसंधान में AgentTuning विधि प्रस्तुत की है जो LLM के बुद्धिमत्ता क्षमता को सुधारती है। AgentInstruct बुद्धिमत्ता डेटा सेट का निर्माण किया गया है जिसमें उच्च गुणवत्ता के इंटरएक्टिव ट्रेसेस और CoT अंकन श्रृंखला शामिल हैं। AgentInstruct और सामान्य निर्देशों के संयुक्त सूक्ष्म समायोजन के लिए मिश्रित निर्देश सूक्ष्म समायोजन रणनीति अपनाई गई। परिणाम यह दर्शाते हैं कि AgentLM ने Llama 2 की तुलना में स्पष्ट रूप से बेहतर प्रदर्शन किया है, विशेषकर held-in और held-out कार्यों में। 70B संस्करण का AgentLM बुद्धिमत्ता कार्य में उत्कृष्ट प्रदर्शन करता है।

मेटा ने Llama2-Long मॉडल जारी किया, जो लंबी पाठों को संसाधित करते समय गणना की आवश्यकता को नहीं बढ़ाता, फिर भी उत्कृष्ट प्रदर्शन बनाए रखता है। मॉडल ने सतत पूर्व-प्रशिक्षण, स्थिति कोडिंग में सुधार और डेटा मिश्रण रणनीति को अपनाया है, जिससे गणना के खर्च में अधिकतम 40% की कमी आई है। यह लंबी और छोटी दोनों कार्यों पर उत्कृष्ट प्रदर्शन कर रहा है, अन्य लंबी संदर्भ मॉडल को पीछे छोड़ते हुए, प्राकृतिक भाषा प्रोसेसिंग क्षेत्र में क्रांति लाने की क्षमता रखता है। मॉडल ने कोडिंग, गणित और ज्ञान-गहन कार्यों में स्पष्ट सुधार दिखाया है, यहां तक कि GPT-3.5 को भी पीछे छोड़ दिया है। Llama2-Long मॉडल की रिलीज लंबी पाठों को संसाधित करने के लिए एक शक्तिशाली उपकरण प्रदान करती है।

शब्दावली विस्तारण, डेटा चयन और बहु-चरण प्रशिक्षण रणनीति के माध्यम से 15 घंटे में कुछ हजार रुपये के खर्च पर चीनी संस्करण LLaMA2 का प्रशिक्षण किया गया। चीनी संस्करण LLaMA2 कई चीनी कार्यों में प्रदर्शन में स्पष्ट रूप से सुधार करता है और समान आकार के मॉडल के साथ उन्नत स्तर तक पहुंचता है। निर्माण प्रक्रिया, कोड और वेट्स सभी ओपन-सोर्स हैं और इसे अन्य भाषाओं और क्षेत्रों में स्थानांतरणीय रूप से लागू किया जा सकता है। कम लागत पर बड़े मॉडल के प्रशिक्षण को 15 घंटे और कुछ हजार रुपये के खर्च में संभव बनाया गया है। सभी प्रशिक्षण कोड और पूर्व-प्रशिक्षित वेट्स ओपन-सोर्स हैं और इन्हें अन्य भाषाओं और क्षेत्रों में तेजी से और कम लागत में बड़े मॉडल के प्रशिक्षण के लिए सीधे लागू किया जा सकता है।

कुनलून वानवे द्वारा विकसित तियानगोंग बड़े मॉडल ने बेंचमार्क GSM8K परीक्षण में 80% सटीकता प्राप्त की है। तियानगोंग बड़े मॉडल की निष्कर्षण क्षमता GPT-3.5 और LLaMA2 को पार कर गई है। तियानगोंग बड़े मॉडल का प्रदर्शन विभिन्न डेटा सेटों पर उत्कृष्ट है। तियानगोंग बड़े मॉडल की समस्या को सुलझाने की प्रक्रिया सरल और स्पष्ट है। तियानगोंग बड़े मॉडल उपयोगकर्ताओं और उद्यमों को शक्तिशाली बुद्धिमत्ता सहायता प्रदान करेगा।

OpenAI, Meta, 智谱 AI, Google DeepMind, Microsoft, Intel आदि बड़े भाषा मॉडल क्षेत्र की कंपनियों और शोध विद्वानों ने ACM KDD 2023 में अपने विचार साझा किए। सम्मेलन बड़े भाषा मॉडल और विभिन्न क्षेत्रों में उनके अनुप्रयोगों पर नवीनतम शोध प्रगति पर केंद्रित था, साथ ही विश्वसनीय बड़े भाषा मॉडल कैसे बनाए जा सकते हैं, इस पर भी चर्चा हुई। बड़े मॉडल की विशेषताएँ, ChatGPT, GLM-130B, Llama2, तर्क क्षमता, प्रतिमान और चुनौतियाँ आदि विषयों पर ध्यान केंद्रित किया गया।

IBM ने घोषणा की है कि वह अपनी एंटरप्राइज आर्टिफिशियल इंटेलिजेंस प्लेटफ़ॉर्म WatsonX पर MetaPlatform के AI भाषा मॉडल MetaLlama2 की मेज़बानी करेगा। Llama2, Meta द्वारा इस वर्ष जुलाई में लॉन्च किया गया ओपन-सोर्स आर्टिफिशियल इंटेलिजेंस भाषा मॉडल का व्यावसायिक संस्करण है, जिसे माइक्रोसॉफ्ट के Azure क्लाउड सेवा के माध्यम से वितरित किया गया है। वर्तमान में, watsonx.ai में, AI निर्माता IBM और Hugging Face समुदाय के मॉडल का लाभ उठा सकते हैं, जो कि...

IBM ने watsonx.aistudio में Meta के Llama2 चैट 70 अरब पैरामीटर मॉडल को होस्ट करने की योजना बनाई है। IBM और Meta के बीच AI ओपन इनोवेशन में सहयोग का आधार है। Llama2 मॉडल IBM की तीसरे पक्ष और स्वामित्व वाले AI मॉडलों की रणनीति का एक हिस्सा बन जाएगा।