Meta 的 FAIR 团队最近推出了一款名为 Dualformer 的全新 Transformer 模型，该模型模仿人类的双重认知系统，能够无缝整合快速和慢速推理模式，在推理能力和计算效率上取得了显著突破。人类的思维过程通常被认为是由两种系统控制的:系统1快速直观，系统2则更慢但更具逻辑性。传统的 Transformer 模型通常只模拟了系统1或系统2中的一种，导致模型要么速度快但推理能力差，要么推理能力强但速度慢且计算成本高。Dualformer 的创新之处在于其训练方式。研究人员利用随机推理轨迹对模型进行训练

谷歌新发布的NeuralGCM模型在天气预报领域实现了重大突破，计算效率比传统物理模型高出10万倍，相当于过去25年高性能计算的进展。通过结合机器学习与物理建模，NeuralGCM能够快速而精确地模拟地球大气状况，尤其是在预测2到15天内的天气方面表现更佳，准确度超越现有模型。这个模型运行速度和计算成本也显著提升，与传统模型相比速度快了约3500倍，成本降低了10万倍，仅需普通计算机即可运行。 NeuralGCM在预测气候变化对不同地区的影响方面展现出巨大潜力，包括干旱和沿海洪水风险等，对于当前全球气温急剧上升的背景显得尤为重要。通过训练于1979年至2019年的天气数据，NeuralGCM在天气预报上的误差仅为传统模型的三分之一，使其成为气候变化预测的有力工具，标志着对气候建模领域新的飞跃。这个模型不仅为未来的天气预报提供了可能性，也强化了对气候变化研究的支持。