हाल ही में, एनवीडिया ने अपना नया ब्लैकवेल प्लेटफ़ॉर्म जारी किया है और MLPerf Training4.1 बेंचमार्क परीक्षण में प्रारंभिक प्रदर्शन का प्रदर्शन किया है। परीक्षण परिणामों के अनुसार, ब्लैकवेल ने कुछ क्षेत्रों में पिछली पीढ़ी के होपर प्लेटफ़ॉर्म की तुलना में प्रदर्शन में दो गुना वृद्धि की है, यह उपलब्धि उद्योग में व्यापक ध्यान आकर्षित कर रही है।

image.png

MLPerf Training4.1 बेंचमार्क परीक्षण में, ब्लैकवेल प्लेटफ़ॉर्म LLM (बड़े भाषा मॉडल) बेंचमार्क के Llama270B माइक्रो-ट्यूनिंग कार्य में, प्रत्येक GPU का प्रदर्शन होपर के 2.2 गुना तक पहुँच गया, जबकि GPT-3175B के पूर्व-प्रशिक्षण में 2 गुना वृद्धि हुई। इसके अलावा, स्थिर प्रसार v2 प्रशिक्षण जैसे अन्य बेंचमार्क परीक्षणों में, नई पीढ़ी का ब्लैकवेल भी पिछले उत्पाद की तुलना में 1.7 गुना बेहतर प्रदर्शन करता है।

यह ध्यान देने योग्य है कि, हालांकि होपर अभी भी प्रगति दिखा रहा है, लेकिन पिछले MLPerf Training बेंचमार्क परीक्षण की तुलना में, होपर ने भाषा मॉडल पूर्व-प्रशिक्षण में 1.3 गुना प्रदर्शन में सुधार किया है। यह दर्शाता है कि एनवीडिया की तकनीक लगातार प्रगति कर रही है। हाल के GPT-3175B बेंचमार्क परीक्षण में, एनवीडिया ने 11,616 होपर GPU प्रस्तुत किए, जो एक नया विस्तार रिकॉर्ड स्थापित करता है।

ब्लैकवेल के तकनीकी विवरण के बारे में, एनवीडिया ने कहा कि नई आर्किटेक्चर ने ऑप्टिमाइज़्ड टेन्सर कोर और तेज़ उच्च बैंडविड्थ मेमोरी का उपयोग किया है। इससे GPT-3175B बेंचमार्क परीक्षण के लिए केवल 64 GPU की आवश्यकता होती है, जबकि होपर प्लेटफ़ॉर्म पर समान प्रदर्शन प्राप्त करने के लिए 256 GPU की आवश्यकता होती है।

एनवीडिया ने लॉन्च इवेंट में होपर उत्पादों के सॉफ़्टवेयर और नेटवर्क अपडेट पर प्रदर्शन सुधार पर भी जोर दिया, और उम्मीद है कि ब्लैकवेल भविष्य में सुधार जारी रखेगा। इसके अलावा, एनवीडिया अगले वर्ष ब्लैकवेल अल्ट्रा नामक अगली पीढ़ी के AI त्वरक को लॉन्च करने की योजना बना रहा है, जो अधिक मेमोरी और अधिक मजबूत कंप्यूटिंग क्षमता प्रदान करने की उम्मीद है।

ब्लैकवेल ने MLPerf Inference v4.1 बेंचमार्क परीक्षण में भी पिछले सितंबर में पहली बार प्रदर्शन किया, AI इन्फेरेंस के मामले में, इसका प्रदर्शन H100 की तुलना में प्रत्येक GPU पर चार गुना अधिक आश्चर्यजनक उपलब्धि तक पहुँच गया, खासकर जब कम FP4 सटीकता का उपयोग किया गया। यह नया रुझान कम विलंबता वाले चैटबॉट और OpenAI के o1 मॉडल जैसे स्मार्ट कंप्यूटिंग आवश्यकताओं की बढ़ती मांग का सामना करने के लिए है।

मुख्य बिंदु:

- 🚀 ** एनवीडिया ब्लैकवेल प्लेटफ़ॉर्म AI प्रशिक्षण में प्रदर्शन को दोगुना करता है, उद्योग मानकों को नया रूप देता है!**

- 📈 ** GPT-3175B बेंचमार्क परीक्षण में, ब्लैकवेल को केवल 64 GPU की आवश्यकता है, दक्षता में उल्लेखनीय वृद्धि!**

- 🔍 ** अगले वर्ष ब्लैकवेल अल्ट्रा लॉन्च होगा, जो उच्च मेमोरी और कंप्यूटिंग क्षमता प्रदान करने की उम्मीद है!**