स्केल पर मेमोरी लेयर्स एक अभिनव मेमोरी लेयर इम्प्लीमेंटेशन तरीका है, जो प्रशिक्षित कुंजी-मान लुकअप तंत्र के माध्यम से, फ़्लोटिंग-पॉइंट ऑपरेशन की संख्या में वृद्धि किए बिना मॉडल में अतिरिक्त पैरामीटर जोड़ता है। यह तरीका बड़े पैमाने पर भाषा मॉडल में विशेष रूप से महत्वपूर्ण है, क्योंकि यह गणना दक्षता बनाए रखते हुए, मॉडल की संग्रहण और पुनर्प्राप्ति क्षमता में उल्लेखनीय रूप से सुधार कर सकता है। इस तकनीक के मुख्य लाभों में मॉडल क्षमता का कुशल विस्तार, कम्प्यूटेशनल संसाधन खपत में कमी और मॉडल की लचीलापन और स्केलेबिलिटी में वृद्धि शामिल है। यह प्रोजेक्ट मेटा लिंगुआ टीम द्वारा विकसित किया गया है, जो बड़े पैमाने पर डेटा और जटिल मॉडल को संसाधित करने की आवश्यकता वाले परिदृश्यों के लिए उपयुक्त है।