सिलिकॉन बेस्ड फ्लोइंग के आधिकारिक वीचैट अकाउंट ने घोषणा की है कि सिलिकॉनक्लाउड प्लेटफॉर्म के DeepSeek-R1 और V3 API अब बैच इन्फ्रेंस (Batch Inference) का समर्थन करते हैं।
उपयोगकर्ता बैच API के माध्यम से सिलिकॉनक्लाउड को अनुरोध भेज सकते हैं, और वास्तविक समय में इन्फ्रेंस की गति की सीमा से प्रभावित नहीं होंगे। उम्मीद है कि कार्य 24 घंटों के भीतर पूरा हो जाएगा। वास्तविक समय के इन्फ्रेंस की तुलना में, DeepSeek-V3 बैच इन्फ्रेंस की कीमत में 50% की कमी आई है। इसमें, 11 मार्च से 18 मार्च तक, DeepSeek-R1 बैच इन्फ्रेंस की छूट वाली कीमत में 75% की कमी आई है, जिसमें इनपुट कीमत 1 युआन/मिलियन टोकन्स और आउटपुट कीमत 4 युआन/मिलियन टोकन्स है।
बैच इन्फ्रेंस उपयोगकर्ताओं को रिपोर्ट जेनरेट करने, डेटा साफ़ करने जैसे बड़े पैमाने पर डेटा प्रोसेसिंग कार्यों को अधिक कुशलतापूर्वक संभालने में मदद करता है, और कम लागत पर DeepSeek-R1 और V3 API सेवाओं का आनंद लेता है। यह उन परिदृश्यों के लिए उपयुक्त है जहाँ वास्तविक समय प्रतिक्रिया की आवश्यकता नहीं होती है, जैसे कि डेटा विश्लेषण और मॉडल प्रदर्शन मूल्यांकन।
