चीनी लघु एलएलएम (CT-LLM) चीनी भाषा के लिए डिज़ाइन किया गया पहला बड़ा भाषा मॉडल है, जिसमें 2 अरब पैरामीटर हैं और इसे 12000 अरब चीनी भाषा के डेटासेट पर पूर्व-प्रशिक्षित किया गया है। CT-LLM चीनी भाषा की समझ और निर्माण क्षमता को बेहतर बनाने पर केंद्रित है, और बड़े पैमाने पर चीनी भाषा के डेटा के पूर्व-प्रशिक्षण का उपयोग करके चीनी पाठ को कुशलतापूर्वक संसाधित करता है। हालाँकि यह चीनी भाषा के प्रसंस्करण के लिए अनुकूलित है, CT-LLM अंग्रेजी और प्रोग्रामिंग कोड के बेहतर प्रसंस्करण की क्षमता भी दर्शाता है, जो मॉडल की बहुभाषी अनुकूलन क्षमता को प्रदर्शित करता है। चीनी भाषा के कार्यों के बेंचमार्क CHC-Bench पर, CT-LLM ने उत्कृष्ट प्रदर्शन दिखाया है, जिससे चीनी भाषा को समझने और लागू करने की इसकी कुशलता सिद्ध होती है। CT-LLM को शुरू से ही प्रशिक्षित किया गया है, मुख्य रूप से चीनी भाषा के डेटा का उपयोग करके पूर्व-प्रशिक्षित किया गया है, और इसमें डेटा फ़िल्टरिंग प्रक्रिया, प्रशिक्षण गतिशीलता, प्रशिक्षण और मूल्यांकन डेटा, और मॉडल के मध्यवर्ती चेकपॉइंट जैसी सभी संबंधित जानकारी को सार्वजनिक किया गया है। इस खुले संसाधन दृष्टिकोण से अन्य शोधकर्ताओं और डेवलपर्स को इन संसाधनों तक पहुँच प्राप्त होती है, और वे अपने शोध या मॉडल को और बेहतर बनाने के लिए इन सामग्रियों का उपयोग कर सकते हैं।