普林斯顿大学和耶鲁大学的研究人员最近发布了一份关于大语言模型（LLM）“思维链(CoT)”推理能力的报告，揭示了CoT推理的奥秘:它并非纯粹基于逻辑规则的符号推理，而是融合了记忆、概率和噪声推理等多种因素。研究人员以破解移位密码为测试任务，分析了GPT-4、Claude3和Llama3.1这三个LLM的表现。移位密码是一种简单的编码方式，每个字母都被替换成字母表中向前移动固定位数的字母。例如，将字母表向前移动3位，"CAT"就会变成"FDW"。研究结果表明，影响CoT推理效果的三个关键因素是:概

Meta FAIR、加州大学伯克利分校和纽约大学的研究人员联合推出了一种全新技术，名为思维偏好优化（TPO）。这项创新旨在提升大语言模型(LLM)在处理指令时的回答质量。与传统模型只关注最终答案不同，TPO 允许模型在给出最终回答之前，先进行内部思考和反思，从而生成更准确和连贯的回答。TPO 技术的核心是改进后的连锁思维（CoT）推理方法。这种方法在训练过程中鼓励模型 “思考一下再回答”，帮助它们在提供最终答案之前，构建更有条理的内在思维过程。传统的 CoT 提示有时会导致准