WARM是一种通过加权平均奖励模型（WARM）来对齐大型语言模型（LLMs）与人类偏好的解决方案。首先，WARM对多个奖励模型进行微调，然后在权重空间中对它们进行平均。通过加权平均，WARM相对于传统的预测集成方法提高了效率，同时改善了在分布转移和偏好不一致性下的可靠性。我们的实验表明，WARM在摘要任务上的表现优于传统方法，使用最佳N和RL方法，WARM提高了LLM预测的整体质量和对齐性。