KPU (Knowledge Processing Unit) 是一种专有的丰富框架,利用了大型语言模型的强大功能,并将推理和数据处理分离在一个能够解决复杂任务的开放系统中。它由推理引擎、执行引擎和虚拟上下文窗口三个主要组件组成。推理引擎负责设计解决用户任务的分步计划,利用了可插拔的大型语言模型(目前广泛测试了 GPT-4 Turbo)。执行引擎接收来自推理引擎的命令并执行,结果作为反馈发送回推理引擎进行重新规划。虚拟上下文窗口管理推理引擎和执行引擎之间的数据和信息输入输出。这种分离推理和执行的架构使大型语言模型能专注于推理,避免了谎言、数据处理或检索最新信息等缺陷。KPU 旨在提升任务质量和性能,解决大数据量、多模态内容、开放性问题解决和交互性等挑战。