चाँद के अंधेरे पक्ष प्रौद्योगिकी कंपनी ने Tsinghua विश्वविद्यालय के MADSys प्रयोगशाला के साथ मिलकर एक ओपन-सोर्स प्रोजेक्ट जारी किया है, जिसका नाम Mooncake है, जिसका उद्देश्य KVCache-केंद्रित बड़े मॉडल इन्फरेंस आर्किटेक्चर का सह-संवर्धन करना है। जून 2024 में, दोनों ने Kimi के बेस लेयर्स के लिए Mooncake इन्फरेंस सिस्टम डिज़ाइन योजना जारी की, जो PD विभाजन और स्टोर-स्विच आर्किटेक्चर पर आधारित है, जिसने इन्फरेंस थ्रूपुट को अत्यधिक बढ़ा दिया और उद्योग में व्यापक ध्यान आकर्षित किया।