MobileLLM-600M मेटा द्वारा विकसित एक स्वतः प्रत्यागमन भाषा मॉडल है, जिसमें अनुकूलित ट्रांसफॉर्मर आर्किटेक्चर का उपयोग किया गया है, जिसे संसाधन-सीमित डिवाइस-एंड एप्लिकेशन के लिए डिज़ाइन किया गया है। इस मॉडल में SwiGLU सक्रियण फलन, गहरी पतली आर्किटेक्चर, एम्बेडिंग शेयरिंग और समूहीकृत क्वेरी ध्यान जैसे प्रमुख तकनीक शामिल हैं। MobileLLM-600M ने शून्य-शॉट सामान्य ज्ञान अनुमान कार्यों में उल्लेखनीय प्रदर्शन में वृद्धि हासिल की है, पिछले 125M/350M SoTA मॉडल की तुलना में क्रमशः 2.7%/4.3% की सटीकता में वृद्धि हुई है। इस मॉडल की डिज़ाइन अवधारणा को बड़े मॉडल जैसे MobileLLM-1B/1.5B तक बढ़ाया जा सकता है, दोनों ने SoTA परिणाम प्राप्त किए हैं।