KPU (Knowledge Processing Unit) est un framework propriétaire riche qui exploite la puissance des grands modèles de langage en séparant le raisonnement et le traitement des données au sein d'un système ouvert capable de résoudre des tâches complexes. Il se compose de trois composants principaux : un moteur d'inférence, un moteur d'exécution et une fenêtre contextuelle virtuelle. Le moteur d'inférence est chargé de concevoir un plan étape par étape pour résoudre les tâches de l'utilisateur, en utilisant des grands modèles de langage interchangeables (GPT-4 Turbo ayant été largement testé). Le moteur d'exécution reçoit les instructions du moteur d'inférence et les exécute, les résultats étant renvoyés au moteur d'inférence pour une replanification. La fenêtre contextuelle virtuelle gère les entrées et sorties de données et d'informations entre le moteur d'inférence et le moteur d'exécution. Cette architecture séparant l'inférence et l'exécution permet aux grands modèles de langage de se concentrer sur le raisonnement, évitant ainsi les faussetés, les problèmes de traitement des données ou la récupération d'informations obsolètes. KPU vise à améliorer la qualité et les performances des tâches, en relevant les défis liés au volume important de données, au contenu multi-modal, à la résolution de problèmes ouverts et à l'interactivité.