LongRoPE माइक्रोसॉफ्ट द्वारा विकसित एक तकनीक है जो पूर्व-प्रशिक्षित बड़े भाषा मॉडल (LLM) के संदर्भ विंडो को 2048k (20 लाख) टोकन तक बढ़ा सकती है। यह छोटे संदर्भ से लंबे संदर्भ तक विस्तार प्रदान करता है, प्रशिक्षण लागत और समय को कम करता है, साथ ही मूल छोटे संदर्भ विंडो के प्रदर्शन को बनाए रखता है। यह लंबे टेक्स्ट पर भाषा मॉडल की समझ और पीढ़ी क्षमता को बेहतर बनाने के लिए उपयुक्त है, जिससे मशीन रीडिंग समझ, टेक्स्ट सारांश और लंबे लेखों के निर्माण जैसे कार्यों में सुधार होता है।