गूगल की रिसर्च टीम ने हाल ही में टाइम्सएफएम (टाइम सीरीज़ फाउंडेशन मॉडल) 2.0 लॉन्च किया है, जो टाइम सीरीज़ प्रेडिक्शन के लिए डिज़ाइन किया गया एक पूर्व-प्रशिक्षित मॉडल है। यह मॉडल समय श्रृंखला की भविष्यवाणी की सटीकता को बढ़ाने के लिए बनाया गया है और ओपन-सोर्स और वैज्ञानिक साझाकरण के माध्यम से कृत्रिम बुद्धिमत्ता के विकास को प्रोत्साहित करता है। टाइम्सएफएम 2.0 मॉडल में शक्तिशाली क्षमताएँ हैं, जो एकल चर टाइम सीरीज़ प्रीडिक्शन के लिए 2048 समय बिंदुओं तक संभाल सकता है, और किसी भी भविष्यवाणी के समय अंतराल का समर्थन करता है। यह ध्यान देने योग्य है कि यद्यपि मॉडल के प्रशिक्षण की अधिकतम संदर्भ लंबाई 2048 है, लेकिन

OpenAI के सह-संस्थापक इलिया सुत्सकेवर ने हाल ही में कहा कि कृत्रिम बुद्धिमत्ता के शोधकर्ताओं को मशीन इंटेलिजेंस को बढ़ाने के लिए नए तरीके खोजने की आवश्यकता है ताकि मौजूदा सीमाओं पर काबू पाया जा सके। सुत्सकेवर ने कनाडा के वैंकूवर में आयोजित 2024 की न्यूरल इंफॉर्मेशन प्रोसेसिंग सिस्टम (NeurIPS) सम्मेलन में एक भाषण दिया, जिसमें उन्होंने कहा कि कृत्रिम बुद्धिमत्ता के पूर्व-प्रशिक्षण का युग समाप्त होने वाला है और सुपर इंटेलिजेंस के उदय की भविष्यवाणी की। सुत्सकेवर का मानना है कि बेहतर हार्डवेयर, सॉफ़्टवेयर और मशीन

तेजी से विकसित हो रहे जनरेटिव एआई क्षेत्र में, Nous Research टीम एक अनोखा प्रयोग कर रही है: वे दुनिया भर में वितरित मशीनों का उपयोग करके 15 अरब पैरामीटर के बड़े भाषा मॉडल (LLM) का पूर्व-प्रशिक्षण कर रहे हैं, यह प्रक्रिया पारंपरिक रूप से महंगे और ऊर्जा खपत करने वाले डेटा केंद्रों या सुपरक्लस्टरों में केंद्रित विकास की आवश्यकता को समाप्त करती है। Nous Research अपने विशेष साइट distro.nousresearch.com पर इस पूर्व-प्रशिक्षण प्रक्रिया का सीधा प्रसारण कर रहा है, वास्तविक समय में ज्ञान साझा करते हुए।

बड़े भाषा मॉडल ने AI समुदाय में बड़ी रुचि पैदा की है, जिसमें शक्तिशाली क्षमताओं का प्रदर्शन किया गया है। एप्पल रिसर्च टीम ने WRAP तकनीक का खुलासा किया है जो सिंथेटिक डेटा के साथ बड़े मॉडल को पूर्व-प्रशिक्षित करता है। WRAP मॉडल के प्रदर्शन में सुधार करता है, नेटवर्क दस्तावेज़ों को फिर से लिखता है, और पूर्व-प्रशिक्षण के प्रभाव को बढ़ाता है। उच्च गुणवत्ता वाले सिंथेटिक डेटा का उपयोग करके प्रशिक्षण में तेजी लाना और समग्र प्रदर्शन को बढ़ाना, नई संभावनाओं का सृजन करना।

टोंग यि कियान के Qwen-72B मॉडल ने हगिंग फेस ओपन-सोर्स बड़े मॉडल पूर्व-प्रशिक्षण सूची में पहला स्थान प्राप्त किया। टोंग यि कियान के Qwen-72B मॉडल में 720 अरब पैरामीटर और 73.6 का समग्र स्कोर है। हगिंग फेस ओपन-सोर्स बड़े मॉडल की रैंकिंग ने विश्व के शीर्ष ओपन-सोर्स बड़े मॉडल का मूल्यांकन किया। टोंग यि कियान के Qwen-72B मॉडल ने पढ़ाई की समझ, तार्किक तर्क, गणितीय गणना, तथ्यात्मक प्रश्नोत्तर जैसे क्षेत्रों में उत्कृष्टता दिखाई है। टोंग यि कियान को अली क्लाउड द्वारा लॉन्च किया गया।