इंटेल ने Transformers के लिए Extension टूलकिट जारी किया है, जो LLM Runtime तकनीक का उपयोग करके CPU पर बड़े भाषा मॉडल की अनुमानित प्रदर्शन को 40 गुना तक बढ़ाता है। इस टूलकिट ने कोर को अनुकूलित किया है, विभिन्न मात्रा विकल्पों का समर्थन किया है, और चैटिंग परिदृश्यों में चुनौतियों का समाधान किया है, जो इंटेल की कृत्रिम बुद्धिमत्ता के क्षेत्र में नेतृत्व की स्थिति को प्रदर्शित करता है।
इंटेल ने ट्रांसफार्मर के लिए एक्सटेंशन टूलकिट लॉन्च किया, जो बड़े भाषा मॉडल इनफेरेंस परफॉर्मेंस में 40 गुना सुधार करता है

站长之家
यह लेख AIbase दैनिक से है
【AI दैनिक】 कॉलम में आपका स्वागत है! यहाँ आर्टिफ़िशियल इंटेलिजेंस की दुनिया का पता लगाने के लिए आपकी दैनिक मार्गदर्शिका है। हर दिन हम आपके लिए AI क्षेत्र की हॉट कंटेंट पेश करते हैं, डेवलपर्स पर ध्यान केंद्रित करते हैं, तकनीकी रुझानों को समझने में आपकी मदद करते हैं और अभिनव AI उत्पाद अनुप्रयोगों को समझते हैं।