MemGPT ist ein fester Kontext-LLM-Prozessor, der um ein hierarchisches Speichersystem und eine Reihe von Funktionen erweitert wurde, um die Verwaltung seines eigenen Speichers zu ermöglichen. Der Hauptkontext ist die (festlägige) LLM-Eingabe. MemGPT analysiert in jedem Verarbeitungszyklus die Text-Ausgabe des LLMs und steuert oder gibt die Steuerung bei Funktionsaufrufen ab, um Daten zwischen dem Hauptkontext und externen Kontexten zu verschieben. Wenn das LLM einen Funktionsaufruf generiert, kann es eine sofortige Rückgabe der Ausführung anfordern, um Funktionen zu verketten. Im Falle eines ‚yield‘ wird das LLM nicht erneut ausgeführt, bis ein externes Ereignis ausgelöst wird (z. B. eine Benutzernachricht oder ein geplanter Interrupt).