MemGPT est un processeur LLM à contexte fixe amélioré par un système de mémoire hiérarchique et un ensemble de fonctions, lui permettant de gérer sa propre mémoire. Le contexte principal est l'entrée LLM (de longueur fixe). MemGPT analyse la sortie textuelle du LLM à chaque cycle de traitement et contrôle ou renvoie le contrôle lors des appels de fonctions, afin de déplacer des données entre le contexte principal et le contexte externe. Lorsqu'un appel de fonction est généré par le LLM, il peut demander un retour d'exécution immédiat pour chaîner les fonctions. Dans le cas d'un yield, le LLM ne sera plus exécuté jusqu'à ce qu'un prochain événement externe ne soit déclenché (par exemple, un message utilisateur ou une interruption planifiée).