最近，OpenAI 推出了其最新的人工智能模型系列 o1，这一系列模型在一些逻辑任务中表现出了非常先进的能力，因此公司对其潜在风险进行了谨慎评估。根据内部和外部的评估，OpenAI 将 o1模型分类为 “中等风险”。为什么会有这样的风险评级呢?首先，o1模型展现了与人类相似的推理能力，能够生成与人类在同一主题上撰写的论点同样令人信服的文本。这种劝说能力并非 o1模型所独有，之前的一些 AI 模型也表现出了类似的能力，有时甚至超过人类的水平。其次，评估结果显示，o1模型可以协

OpenAI 推出了全新的模型系列 OpenAI o1，这个新模型在推理能力上表现得更加出色，相较于之前的模型，它的表现令人期待。OpenAI o1:更强的推理能力这是一系列全新的推理模型，旨在帮助解决复杂问题。这些模型经过特别训练，可以在作出回应之前，花更多时间进行思考，能够在科学、编码和数学等领域解决比以往更具挑战性的问题，OpenAI o1将先在 ChatGPT 和 API 上推出。新模型是怎么运作的呢?官方介绍，它们经过专门的训练，学习如何像人类一样思考问题，尝试不同的解决策略，并及时识别错误。

OpenAI 正准备发布名为“草莓（Strawberry）”的最新 AI 模型，预计两周内在 ChatGPT 上线。这个模型通过多步骤推理解决复杂问题，被定位为一种推理模型，能够处理如解答高难度代数题或设计耗时数月的市场营销活动等任务。值得注意的是，“草莓”仅支持文本处理，与具备图像和音频处理能力的旗舰模型 GPT-4不同。然而，该模型在响应速度上可能较慢，处理一个查询可能需要10到20秒。尽管回答质量有所提升，但等待时间较长。由于计算需求增加，模型可能会设定每小时消息发送数量限制，并可能提供一个高价层级以加速响应速度。

谷歌 DeepMind 团队与高校合作开发了一种名为生成奖励模型 (GenRM) 的创新方法，旨在提升生成式 AI 在推理任务中的准确性和可靠性。GenRM 将验证过程融入文本生成任务，允许模型同时生成和评估潜在解决方案，同时支持链式推理（CoT），增强验证过程的全面性。相较于传统方法，GenRM 在多项测试中表现出显著优势，准确率提高16%至64%，特别是在学龄前数学和算法问题解决上，问题解决成功率从73%提升至92.8%。这一方法标志着生成式 AI 领域的重大进步，通过统一生成与验证过程，显著提升了 AI 在高风险领域应用的准确性和可信度。

LMSYS组织的大模型竞技场—Chatbot Arena最新榜单显示，LMSYS Chatbot Arena的总排名11超越诸多开源模型如Llama3-70B、Qwen2-72B、Nemotron-4-340B、Gemma2-27B，位居全球开源模型榜首。DeepSeek-V2-0628，相较于0507版本，显著提升了在代码数学推理、指令跟随、角色扮演、JSON Output能力，特别是在难问题、代码、长问题和数学领域与GPT-4-Turbo-0409、Claude3Opus等领先模型并驾齐驱。DeepSeek-V2-0628在全球与国内模型评比中均显卓著，国内排名第二位，并已于2024年6月28日上线服务，提供性价比极高的API和网页端访问。

OpenAI新项目「草莓」，原名Q*，创新性让AI预先规划任务，自主上网收集信息，甚至进行深度研究。马斯克以「无尽草莓田」表达对其前景的乐观态度。草莓计划的运作细节保密，仅在内部高度机密进行，发布时间未公开。最近一次展示的版本显示，草莓在推理能力上已近乎媲美人类。实验性地，OpenAI采纳了类似斯坦福大学「自我教导推理者」（STaR）的技术，经过迭代以提高AI推理能力。基于少量推理示例和大量非推理数据，草莓模型通过重复修正现有错误推理并新增正确的推理过程来自我提升。StrA因而能回答问题并阐述出推理原因。OpenAI希望草莓的创新显著提升AI推理能力及管理长时间任务，包括创建并评价「深度研究」数据集，此项目目标是实现AI通用智能（AGI），对人类认知的探索进入崭新阶段。

近期,麻省理工学院研究团队对大型语言模型(LLMs)在不同任务下的表现进行了深入探讨。研究发现,LLMs在熟悉任务上表现良好,但却在面对非典型或未知情境时显现出推理能力的严重局限。通过比较“默认任务”与“反事实场景”,以及调整任务设计以测试模型反应,结果表明,尽管模型在十进制算术运算相当出色,但在非十进制环境以及音乐、空间推理和国际象棋等其他任务中表现出完全不同的表现。模型的不稳定表现和对训练数据的直接记忆依赖,揭示了其在面对变动环境中较为有限的逻辑应用能力。研究主要作者指出,LLMs更加擅长于在熟悉场景下利用已知信息,而非灵活运用逻辑推理处理环境变化。这一发现对未来模型设计具有重要意义,尤其是在适应性和多任务处理能力提升方面,并指出了研究领域的新方向,力图构建更具普适性和鲁棒性的AI模型原型,应对真实世界复杂多变的挑战。当前研究的局限性在于对候选模型评估的维度和环境的限制,未来需进一步扩大评估范围,以全面揭示模型在真实世界应用中的潜在限制。

​近日，来自国内昆仑万维颜水成团队与新加坡南洋理工大学的研究团队发布了一项名为 Q * 的项目，旨在提升小模型的推理能力。这一项目不同于 OpenAI，却能让小模型达到参数量比其大数十倍、甚至上百倍模型的推理能力。

近日，昆仑万维携手新加坡南洋理工大学成功开发了名为 Q * 的算法，能够显著提升现有大模型的推理能力。Q * 在不同数据集上帮助小模型达到参数量比其大数十倍甚至上百倍模型的推理能力，使得模型性能大幅提升，同时显著降低了计算资源的需求，为人工智能的广泛应用带来全新可能，开创了高效智能的新纪元。

["深度学习研究人员发现，语言模型在逻辑推理方面的表现仍然是一个重要挑战。","最新研究揭示了任务中前提顺序对语言模型的逻辑推理性能产生显著影响。","研究结果可能指导专家在使用语言模型进行基本推理任务时的决策。"]

["Gemini Pro在常识推理任务中表现优异，斯坦福和Meta的研究认为Gemini被低估。","研究人员设计新测试集，发现Gemini在复杂推理任务中的表现较之前更强。","评估包括11个基于语言的数据集和一个多模态数据集，结果显示Gemini Pro与GPT-3.5相当。","GPT-4Turbo在整体性能上领先，但Gemini Pro在特定任务中略胜。","推理实验显示Gemini Pro和GPT-4Turbo在正确和错误答案上都表现出先进的推理机制。"]

["LeCun与xAI联创就GPT-4的推理能力发生激烈争议。","LeCun认为GPT-4缺乏推理能力，引发大规模讨论。","xAI联创的Christian Szegedy提到推理能力的限制和突破。","一些网友将GPT-4与人类思维相对比，称人类也是「随机鹦鹉」。","ASU大学的Subbarao Kambhampati的论文指出GPT-4在规划推理中表现不佳。"]

["DALL-E 3 在弱化提示词约束的同时,具备了 ChatGPT 原生的优势,将语言指令转化为图像。","DALL-E 3 理解复杂语言指令的能力得到提升,避免混淆请求中的元素细节。","DALL-E 3 在遵循提示生成连贯细节方面有了极大进步,文字、语义理解能力均超过旧版。","DALL-E 3 预计 10月面向 ChatGPT Plus 和 Enterprise 用户开放,用户可自由转载所创图像。","OpenAI 在 DALL-E 3 的安全和版权保护方面投入了大量工作,以平衡利用与风险。"]

["昆仑万维自研的天工大模型在 Benchmark GSM8K 测试中取得 80% 的正确率。","天工大模型的推理能力超过了 GPT-3.5 和 LLaMA2。","天工大模型在多个数据集上的表现出色。","天工大模型的解题思路更为简单、清晰。","天工大模型将为用户和企业提供强大的智能化助力。"]

["GPT-4 在推理能力上受到怀疑","Konstantine Arkoudas 论证 GPT-4 不能进行推理","对于生成式人工智能的正确性与规范性的讨论"]