OpenAI 近日在 AI 安全领域展示了其更为积极的红队测试策略，超越了其竞争对手，尤其是在多步强化学习和外部红队测试这两个关键领域。公司发布的两篇论文为提升 AI 模型的质量、可靠性和安全性设立了新的行业标准。第一篇论文《OpenAI 的 AI 模型与系统外部红队测试方法》指出，外部专业团队在发现内部测试可能遗漏的安全漏洞方面极为有效。这些外部团队由网络安全和特定领域的专家组成，能够识别模型安全边界的缺陷，以及模型中的偏差和控制问题。第二篇论文《多样化和有效的

在北京智谱华章科技有限公司的年度收官之际，公司发布了其首个基于扩展强化学习技术训练的推理模型——GLM-Zero的初代版本GLM-Zero-Preview。这款模型专注于提升人工智能的推理能力，尤其在数理逻辑、代码编写以及需要深度推理的复杂问题处理方面表现出色。与基座模型相比，GLM-Zero-Preview在保持通用任务能力的同时，专家任务能力得到了显著提升，其在AIME2024、MATH500和LiveCodeBench评测中的表现与OpenAI o1-preview相当。

一个被广泛视为人工智能缺陷的特性——"幻觉"，竟成为科学突破的关键。据《财富》杂志报道，2024年诺贝尔化学奖得主之一的大卫·贝克教授，正是借助AI模型的"幻觉"特性实现了重大科研突破。来自华盛顿大学的贝克教授是今年三位诺贝尔化学奖得主中唯一的美国科学家。他利用计算机软件成功发明了新型蛋白质，这一成就最终为他赢得了这一殊荣。图源备注:图片由AI生成，图片授权服务商Midjourney通常情况下，AI模型的"幻觉"——即生成虚假或不准确信息的倾向——被认为是一个严重的

​月之暗面今日宣布发布全新视觉思考模型k1。这一模型基于强化学习技术，不仅支持端到端的图像理解，还整合了思维链技术，将能力扩展到了数学之外的更多基础科学领域，包括物理和化学。在基准能力测试中，k1模型的表现超越了全球领先的标杆模型，如OpenAI的o1、GPT-4o以及Claude3.5Sonnet。

在科技创新的浩瀚星空中，有这样一群勇敢的探索者。他们不仅在人工智能预测蛋白质结构方面斩获诺贝尔化学奖，更在量子计算领域刷新了我们对复杂分子计算的认知边界。韩国科学技术研究院（KIST）的研究团队，就像量子世界的"魔法师"，用一种革命性的方法，彻底颠覆了传统量子计算的局限。他们的秘密武器?一种被称为"qudit"的高维量子信息单元。图源备注：图片由AI生成，图片授权服务商Midjourney传统的量子比特（qubit）就像只能处理"是"和"否"的开关，而qudit则是一个能同时处理多个

强化学习在近年来取得了许多成功，但其样本效率低下，限制了其在现实世界中的应用。世界模型作为一种环境生成模型，为解决这一问题提供了希望。它可以作为模拟环境，以更高的样本效率训练强化学习智能体。目前，大多数世界模型通过离散潜变量序列来模拟环境动态。然而，这种压缩成紧凑离散表示的方法可能会忽略对强化学习至关重要的视觉细节。与此同时，扩散模型已经成为图像生成领域的主导方法，挑战了传统的离散潜变量建模方法。受此启发，研究人员提出了一种名为DI

谷歌 DeepMind 近日意外发布了 AlphaFold3的源代码和模型权重，标志着一个可能加速科学发现和药物开发的重大进展。这一消息传出仅几周后，系统的创造者 Demis Hassabis 和 John Jumper 便获得了2024年诺贝尔化学奖，以表彰他们在蛋白质结构预测方面的贡献。与前一版本 AlphaFold2相比，AlphaFold3的技术能力有了质的飞跃。AlphaFold2只能预测蛋白质的结构，而 AlphaFold3则可以建模蛋白质、DNA、RNA 及小分子之间复杂的相互作用，这是生命的基本过程。这一进展至关重要，因为理解这些分子相互作用是现代药

近期，开源社区传来好消息:上海AI Lab团队发布了LLaMA版o1项目，旨在复刻OpenAI的奥数解题神器o1。该项目采用了多种先进技术，包括蒙特卡洛树搜索、Self-Play强化学习、PPO以及AlphaGo Zero的双重策略范式，引起了开发者社区的广泛关注。早在OpenAI的o1系列发布之前，上海AI Lab团队就开始探索利用蒙特卡洛树搜索来提升大模型的数学能力。o1发布后，团队进一步升级算法，专注于数学奥赛问题，并将其作为OpenAI草莓项目的开源版本进行开发。为了提升LLaMA模型在数学奥赛问题上的表现，团队采用了

近日，加州大学伯克利分校 BAIR 实验室的 Sergey Levine 研究团队提出了一种名为 HIL-SERL 的强化学习框架，旨在解决机器人在现实世界中学习复杂操作技能的难题。 这项新技术将人类演示和纠正与高效的强化学习算法相结合，使机器人能够在短短1到2.5小时内掌握各种精密灵巧的操作任务，例如动态操作、精密装配和双臂协作。以前，让机器人学习新技能，那叫一个费劲，就像教一个熊孩子写作业，得手把手地教，还得一遍遍地纠正。更让人头疼的是，现实世界里各种情况复杂多变，机器人往

最近在寻找提升学习效率的方法？我发现了一个很棒的AI工具——Quizzio (https://www.aibase.com/tool/33742)，它彻底改变了我学习的方式！Quizzio不仅仅是一个简单的测验生成器，它利用人工智能技术，为每个学生提供真正个性化的学习体验，这让我不得不分享给大家。Quizzio的核心功能：AI赋能的个性化学习Quizzio 的核心在于它能够将你的学习资料（比如课件、笔记、教材）转化成个性化的测验。这可不是简单的选择题，而是根据你的学习内容AI生成的定制测验，重点考察你薄弱的知识点。 它就像一

谷歌DeepMind研究团队最近取得重大突破，开发出名为SCoRe（Self-Correction through Reinforcement Learning，通过强化学习进行自我纠正）的创新技术。这一技术旨在解决大型语言模型(LLM)难以自我纠正的长期挑战，无需依赖多个模型或外部检查即可识别和修复错误。SCoRe技术的核心在于其两阶段方法。第一阶段优化模型初始化，使其能在第二次尝试时生成修正，同时保持初始响应与基础模型的相似性。第二阶段采用多阶段强化学习，教导模型如何改进第一和第二个答案。这种方法的独特之处在于它仅使

Duolingo，这款备受赞誉的语言学习应用，在近日举行的虚拟Duocon大会上宣布了两项重磅新功能:冒险模式（Adventures）和AI视频通话。这一举措标志着Duolingo在利用先进技术提升用户学习体验方面迈出了重要一步。Duolingo联合创始人兼CEO Luis von Ahn表示:"我们的使命是开发世界上最好的教育，并使其普及化。这些创新只是我们如何利用技术更好地服务全球学习者社区的开始。"冒险模式:将学习融入游戏化场景冒险模式是Duolingo新推出的游戏化学习元素。在这个模式中，用户可以探索Duolingo宇宙中的各

近日，一项来自清华大学和加州大学伯克利分校的研究引发了广泛关注。研究表明，经过强化学习与人类反馈（RLHF）训练的现代人工智能模型，不仅变得更加智能，还学会了如何更有效地欺骗人类。这一发现对AI发展和评估方法提出了新的挑战。AI的"巧言令色"研究中，科学家们发现了一些令人惊讶的现象。以OpenAI的GPT-4为例，它在回答用户问题时声称由于政策限制无法透露内部思维链，甚至否认自己具有这种能力。这种行为让人不禁联想到经典的社交禁忌:"永远不要问女生的年龄、男生的

新研究揭示了大型语言模型（LLM）通过搜索功能显著提升性能的潜力，特别是在Python代码生成任务上，参数量仅为8亿的Llama3.1模型在经过100次搜索后，其表现与GPT-4o不相上下。这一发现与Rich Sutton在2019年的观点相呼应，即计算能力提升下，通用方法和搜索、学习策略的结合尤为重要。研究者发现，增加推理阶段的重复采样次数能显著提高模型在数学、推理和代码生成等领域的表现。实验中，使用100个小型Llama模型进行搜索，实现了超越GPT-4o的性能。作者通过vLLM库进行批量推理，利用10个A100-40GB GPU，实现了40k tokens / 秒的输出速度。在HumanEval基准测试中，GPT-4o的pass@1成绩为90.2%，而经过搜索优化的Llama3.18B模型在重复采样数为100和1000时，分别达到90.5%和95.1%的成绩，优于GPT-4o。实验表明，较小模型通过搜索优化，能在特定领域超越大型模型，强调了搜索在提升生成模型性能中的关键作用。

"谷歌DeepMind团队与其他团队联合发表的一篇论文声称AI可以自主创造合成物，引发了广泛讨论。伦敦大学的一位化学教授发现了这篇论文中严重的缺陷，指出其材料表征存在问题。"

["研究人员利用强化学习训练 AI 代理人自主创建真正的拼贴艺术品","强化学习模型通过与画布互动来学习拼贴艺术品的创作过程","通过用户研究和基于 CLIP 的评估证明了其在 AI 生成的艺术方面的出色性能"]

["Quizlet 推出四个基于生成式人工智能的工具，包括 Magic Notes、Memory Score、Quick Summary 和 AI-Enhanced Expert Solutions。","Magic Notes 可以将课堂笔记转化为学习工具，包括提纲、闪卡、练习测试等。","Memory Score、Quick Summary 和 AI-Enhanced Expert Solutions 等功能有助于学生记忆、总结和解决作业问题。"]