Meta 的 FAIR 团队最近推出了一款名为 Dualformer 的全新 Transformer 模型，该模型模仿人类的双重认知系统，能够无缝整合快速和慢速推理模式，在推理能力和计算效率上取得了显著突破。人类的思维过程通常被认为是由两种系统控制的:系统1快速直观，系统2则更慢但更具逻辑性。传统的 Transformer 模型通常只模拟了系统1或系统2中的一种，导致模型要么速度快但推理能力差，要么推理能力强但速度慢且计算成本高。Dualformer 的创新之处在于其训练方式。研究人员利用随机推理轨迹对模型进行训练

这是一个交互式的可视化工具，专门设计给非专业人士使用。通过这个工具，我们可以直接在浏览器中运行GPT-2模型，实时观察模型是如何一步步"读懂"我们的文字，并预测出下一个词的。