एप्पल और मेटा एआई ने नई तकनीक LazyLLM पेश की है, जिसका उद्देश्य बड़े भाषा मॉडल के लंबे पाठ के तर्क क्षमता को बढ़ाना है।现代 परिवर्तक आर्किटेक्चर लंबे संकेतों को संभालने में धीमी गति की समस्या का सामना कर रहे हैं, विशेष रूप से रेखीय वृद्धि की गणना जटिलता। इसको ध्यान में रखते हुए, LazyLLM महत्वपूर्ण टोकनों के चयन की रणनीति अपनाता है, गणना की मात्रा को कम करता है, जबकि मॉडल की सटीकता बनाए रखता है। इसकी उच्चतम दक्षता तंत्र में पिछले स्तर के ध्यान स्कोर का मूल्यांकन, गणना लागत को गतिशील रूप से कम करना, दबी हुई टोकनों को पुनर्स्थापित करना, और Aux Cache तंत्र का उपयोग शामिल है।