RecurrentGPTは、任意の長さのテキストを対話的に生成するためのモデルです。長短期記憶ネットワーク（LSTM）のベクトル化要素を自然言語（つまり、テキストパラグラフ）に置き換え、プロンプトエンジニアリングを用いて再帰メカニズムをシミュレートします。各ステップで、RecurrentGPTは、前のステップで生成されたテキストパラグラフと短い次の段落の計画を受け取ります。また、最近のステップの重要な情報を要約する短期記憶を維持し、各ステップで更新します。RecurrentGPTは、すべての入力を組み合わせたプロンプトを生成し、基本的な言語モデルに新しい段落、次の段落の短い計画、および長期記憶の更新を要求します。