गूगल द्वारा विकसित “इन्फिनी-अटेंशन” तकनीक का उद्देश्य अनंत लंबे इनपुट को संसाधित करने के लिए ट्रांसफॉर्मर-आधारित बड़े भाषा मॉडल का विस्तार करना है। यह संपीड़ित स्मृति तंत्र के माध्यम से अनंत लंबे इनपुट को संसाधित करता है और कई लंबी श्रृंखला कार्यों पर उत्कृष्ट प्रदर्शन प्राप्त करता है। तकनीकी विधियों में संपीड़ित स्मृति तंत्र, स्थानीय और दीर्घकालिक ध्यान का संयोजन और प्रवाह प्रसंस्करण क्षमता शामिल हैं। प्रयोगात्मक परिणाम लंबे संदर्भ भाषा मॉडलिंग, कुंजी संदर्भ ब्लॉक पुनर्प्राप्ति और पुस्तक सारांश कार्यों पर प्रदर्शन लाभ दिखाते हैं।