KPU (Knowledge Processing Unit) ist ein proprietäres, umfassendes Framework, das die Leistungsfähigkeit großer Sprachmodelle nutzt und Inferenz und Datenverarbeitung in einem offenen System trennt, das komplexe Aufgaben lösen kann. Es besteht aus drei Hauptkomponenten: Inferenz-Engine, Ausführungs-Engine und virtuelles Kontextfenster. Die Inferenz-Engine entwirft schrittweise Pläne zur Lösung von Benutzeraufgaben und nutzt dazu einsetzbare große Sprachmodelle (derzeit wird GPT-4 Turbo umfassend getestet). Die Ausführungs-Engine empfängt Befehle von der Inferenz-Engine und führt sie aus. Die Ergebnisse werden als Feedback an die Inferenz-Engine zur Neuplanung zurückgesendet. Das virtuelle Kontextfenster verwaltet den Daten- und Informationsaustausch zwischen Inferenz-Engine und Ausführungs-Engine. Diese Trennung von Inferenz und Ausführung ermöglicht es großen Sprachmodellen, sich auf die Inferenz zu konzentrieren und Fehler wie Falschaussagen, Datenverarbeitungs- oder Abrufprobleme aktueller Informationen zu vermeiden. KPU zielt darauf ab, die Aufgabenqualität und -leistung zu verbessern und Herausforderungen wie große Datenmengen, multimodale Inhalte, die Lösung offener Probleme und Interaktivität zu bewältigen.