在开源AI领域，与大型科技公司的差距不仅仅体现在算力上。AI2（前Allen人工智能研究所）正通过一系列开创性举措缩小这一鸿沟，其最新发布的Tülu3后训练方案，让"原始"大语言模型转化为实用AI系统变得触手可及。与普遍认知不同，基础语言模型在预训练后并不能直接投入使用。事实上，后训练过程才是决定模型最终价值的关键环节。正是在这个阶段，模型从一个"无所不知"却缺乏判断力的网络，转变为具有特定功能导向的实用工具。长期以来，各大公司对后训练方案讳莫如深。虽然任何

《纽约时报》和《每日新闻》在版权诉讼中遭遇意外转折:OpenAI一名工程师不经意间删除了可能成为关键证据的虚拟机搜索数据，令这起备受关注的法律纠纷再添戏剧性情节。根据周三晚间提交至纽约南区美国地方法院的信件，两家媒体公司的律师和技术专家此前已投入逾150小时搜索OpenAI的AI训练数据集。然而，11月14日，一名OpenAI工程师意外删除了存储在虚拟机上的全部搜索数据。尽管OpenAI随后尝试恢复数据并取得基本成功，但由于文件夹结构和文件名已"无法挽回"地丢失，恢复的数据实际

2016 年的《精灵宝可梦Go》曾被视为最纯真的游戏体验，鼓励玩家漫步社区、结识陌生人。而到了 2024 年，这款游戏却悄然变身为一个惊人的地理空间人工智能训练场。Niantic开发团队近期披露了一个惊人秘密：多年来，数百万玩家在玩游戏的同时，实际上一直在帮助训练一个庞大的地理空间人工智能系统。这个被称为视觉定位系统（VPS）的技术，正在通过玩家的日常游戏行为，帮助AI学习复杂的三维空间信息。最巧妙的是，这个过程几乎是无感知的。就像互联网文本训练ChatGPT一样，玩家在

近期，xAI工程师Hieu Pham在社交媒体上发布了一条“爆炸性”消息，声称xAI旗下的大语言模型Grok3成功证明了黎曼猜想，并因此暂停了模型的训练。这条消息迅速在AI圈引发热议，网友们纷纷表示震惊，难以分辨真假。毕竟，黎曼猜想作为千禧年七大数学难题之一，被誉为“猜想界的皇冠”，其难度可想而知。几小时后，Pham在另一条帖子中揭晓了答案:这只是一场调侃。这场“乌龙”源于网友Andrew Curran的爆料，他声称Grok3在训练过程中遭遇了“灾难性事件”。面对越传越离谱的谣言，xAI联创Gr

OpenAI于11月14日发布了一份专业的学生写作指南，首次系统性阐述了ChatGPT在教育领域的正确使用方法。这份指南不仅回应了教育界对AI的担忧，更为学生如何合理运用AI工具提供了清晰的行动指南。OpenAI强调，ChatGPT应被视为辅助学习工具而非替代品。当学生正确使用这一工具时，它能够帮助加深对复杂概念的理解;反之，不当使用则可能阻碍学习技能的培养。指南详细列举了多种有效的使用方法。在资料检索方面，ChatGPT可以快速定位原始参考来源，提高研究效率。在学习过程中，学生可以通

近日，英伟达发布了其全新的 Blackwell 平台，并在 MLPerf Training4.1基准测试中展示了初步的性能表现。根据测试结果，Blackwell 在某些方面的性能相比于前一代 Hopper 平台实现了翻倍的提升，这一成果引起了业界的广泛关注。在 MLPerf Training4.1基准测试中，Blackwell 平台在 LLM（大语言模型）基准的 Llama270B 微调任务中，每个 GPU 的性能达到了 Hopper 的2.2倍，而在 GPT-3175B 的预训练中则达到了2倍的提升。此外，在 Stable Diffusion v2训练等其他基准测试中，新一代的 Blackwell 也以1.7倍的优势超过了前代产品

在人工智能领域，规模越大似乎就意味着能力越强。为了追求更强大的语言模型，各大科技公司都在疯狂堆叠模型参数和训练数据，结果却发现成本也随之水涨船高。难道就没有一种既经济又高效的方法来训练语言模型吗?来自哈佛大学和斯坦福大学的研究人员最近发表了一篇论文，他们发现，模型训练的精度（precision） 就像一把隐藏的钥匙，可以解锁语言模型训练的“成本密码”。什么是模型精度?简单来说，它指的是模型参数和计算过程中使用的数字位数。传统的深度学习模型通常使用

随着生成式AI的迅猛发展，业界对"更大即更好"的传统认知正在发生转变。多位顶尖AI科学家近期表示，单纯通过增加数据量和算力来提升AI性能的方法已接近瓶颈，新的技术突破方向正在显现。Safe Superintelligence和OpenAI的联合创始人Ilya Sutskever近日发表观点，认为传统预训练方法已进入性能平台期。这一论断格外引人注目，因为正是他早期倡导的大规模预训练方法催生了ChatGPT。如今，他表示AI领域已从"规模扩张时代"迈入"奇迹和发现时代"。当前大模型训练面临多重挑战:动辄数千万美元的训练

近日，密歇根大学的一项新研究发现，一种训练大型语言模型的省力方法可以在相同的时间内完成，但能耗可降低30%。这种方法可以节省足够的能源，到2026年为110万美国家庭供电。研究人员开发了一款名为 Perseus 的软件工具，通过识别关键路径，即需要最长时间才能完成的一系列子任务。然后，Perseus 会降低非关键路径上的处理器速度，以便它们都能在同一时间完成工作，从而消除不必要的功耗。该团队通过训练 GPT-3、其他三个大型语言模型和一个计算机视觉模型来测试 Perseus。结果表明

腾讯今日发布开源MOE大语言模型Hunyuan-large，总参数量达398B，激活参数量52B。公开测评结果显示，腾讯混元Large在CMMLU、MMLU、CEva1、MATH等多学科综合评测集以及中英文NLP任务、代码和数学等9大维度全面领先，超过Llama3.1、Mixtral等一流的开源大模型。据了解，该模型在技术创新上可实现高质量合成数据，通过使用合成数据增强训练，有效应对自然数据的不足。在上下文处理能力方面，预训练模型支持高达256K的文本序列，显著增强了处理长上下文任务的能力。同时，腾讯混元宣布，为填补行业

麻省理工学院（MIT）本周展示了一种全新的机器人训练模型，该模型放弃了以往专注于特定数据集的训练方法，转而采用类似大型语言模型(LLMs)训练时使用的海量信息。研究人员指出，模仿学习——即代理通过模仿执行任务的个体来学习——在遇到小的挑战时可能会失败。这些挑战可能包括不同的光照条件、不同的环境设置或新的障碍物。在这些情况下，机器人没有足够的数据来适应这些变化。图源备注：图片由AI生成，图片授权服务商Midjourney团队借鉴了像GPT-4这样的模型，采用了一种粗

麻省理工学院本周展示了一种训练机器人的新模型，旨在解决模仿学习在引入小挑战时可能会失败的问题。研究人员指出，模仿学习在照明、不同环境或新障碍等情况下可能会失败，因为机器人根本没有足够的数据来适应。该团队寻求像 GPT-4这样的模型来寻找一种强力数据方法来解决问题。他们引入了一种名为异构预训练变压器（HPT）的新架构，该架构将来自不同传感器和不同环境的信息汇集在一起。然后使用变压器将数据汇总到训练模型中。变压器越大，输出越好。用户可以输入机器人

大模型（LLM）如GPT、Llama等在人工智能领域掀起了一场革命，但如何高效地训练这些庞大的模型并使其符合人类价值观仍然是一个难题。强化学习与人类反馈（RLHF）作为一种重要的LLM训练方法，近年来得到广泛应用，但传统的RLHF框架在灵活性、效率和可扩展性方面存在局限性。为解决这些问题，字节跳动豆包大模型团队开源了名为HybridFlow的RLHF框架，为LLM训练带来了新的可能性。RLHF通常包含三个阶段:首先，actor模型根据输入的提示生成文本;然后，critic模型、reference模型和reward模型对生成

人工智能视频平台 D-ID 今日宣布推出两款新型虚拟头像 ——Express 和 Premium+，旨在提升内容创作的质量和效率。如今，越来越多的企业希望借助更加人性化的 AI 头像来减轻视频制作的负担，特别是在市场营销、销售和客户支持等领域。D-ID 的新模型就是为了在这一竞争激烈的市场中抢占一席之地。Express 头像的训练时间仅需约一分钟的视频，能够在用户讲话时复制其头部动作。而 Premium + 则是公司的旗舰模型，需要至少几分钟的录制，以生成可以在视频中展示手部和躯干动作的 AI 头像。D-I

北京百川智能科技有限公司近日宣布推出其一站式解决方案，旨在帮助企业以低成本实现大模型的私有化部署，并提高效率。这套解决方案包括全链路优质通用训练数据、Baichuan4-Turbo和Baichuan4-Air两款模型，以及全链路领域增强工具链，能够满足企业在不同场景下的需求。

日前，字节跳动低调的上线了推出了一个名为“炉米 Lumi ”的AI模型分享社区，平台集成了模型分享、Workflow 搭建以及 LoRA 训练等多种功能，不过该平台目前还处于内部测试阶段。产品入口:https://top.aibase.com/tool/lumilumi炉米 Lumi 的核心亮点就是模型分享与管理功能。用户可以轻松上传自己开发的 AI 模型，并在社区中与其他人分享。这种开放的机制有助于打破信息壁垒，促进跨领域的合作与交流。大家可以借鉴彼此的成果，从而进一步推动 AI 模型的创新。平台还支持用户搭建 AI 工作流程。用

的研究团队宣布了一项令人兴奋的进展，他们开发了一种名为 HOVER（人形多功能控制器）的新型神经网络。这个神经网络拥有150万参数，专门用于协调人形机器人的运动和操作。NVIDIA 的高级研究经理 Jim Fan 表示:“并不是所有基础模型都需要庞大。我们训练的这个1.5M 参数的神经网络，旨在控制人形机器人的身体。” 他进一步解释，HOVER 能够捕捉到人类运动中的潜意识过程，这样一来，机器人就可以在没有繁琐编程的情况下执行复杂任务。他提到，“人类在行走、保持平衡，以及灵活操控

Waymo 近日宣布了一项重大突破，开发了一种基于谷歌多模态大型语言模型 （MLLM） Gemini 的新训练模型，用于其自动驾驶出租车的开发。这种新模型被称为 EMMA(自动驾驶端到端多模态模型)，它能够处理传感器数据以生成自动驾驶汽车的未来轨迹，帮助无人驾驶汽车决定去哪里以及如何避开障碍物。EMMA 模型是自动驾驶领域的领军企业计划在其运营中使用 MLLM 的首批迹象之一，表明这些 LLM 可以摆脱目前作为聊天机器人、电子邮件管理器和图像生成器的用途，并在道路的全新环境中找到应用。

在即将到来的2025年1月，位于圣塔莫尼卡的 Fred Fitness 将正式开门迎客，这家健身房以全新的 AI 驱动个性化锻炼理念，预计将改变美国健身市场。Fred Fitness 背靠欧洲健身巨头 Clever Fit，并使用前沿的 EGYM 科技，致力于为会员提供量身定制的训练计划和实时指导，让每个人都能享受到如同私人教练般的健身体验，但费用却远低于传统健身房。Fred Fitness 的创始人阿尔弗雷德・恩岑斯贝格（Alfred Enzensberger）表示，健身房不再只是提供设备，而是提供解决方案。“想象一下，一个私人教练不仅了解

今天，NVIDIA（英伟达） 宣布，与 xAI 合作打造的 Colossus 超级计算机集群正式上线，这可是全球最强AI训练集群Colossus，整整由10万颗 NVIDIA Hopper GPU 组成。这个庞然大物之所以能达到这样的规模，得益于 NVIDIA Spectrum-X 以太网网络平台的支持。这个平台专门为多租户、超大规模的 AI 工厂设计，能够通过标准以太网实现远程直接内存访问，提供卓越的性能。Colossus 主要用于训练 xAI 的 Grok 系列大型语言模型，同时还为 X Premium 用户提供聊天机器人服务。更令人兴奋的是，xAI 正在计划将 Colossus 的规