在 AI 的世界里，"大力出奇迹" 似乎成了金科玉律。模型越大，数据越多，算力越强，仿佛就能越接近智能的圣杯。然而，这狂飙突进的背后，也隐藏着巨大的成本和能耗压力。为了让 AI 训练更高效，科学家们一直在寻找更强大的优化器，就像一位教练，引导模型的参数不断优化，最终达到最佳状态。AdamW 作为 Transformer 预训练的默认优化器，多年来一直是业界标杆。然而，面对日益庞大的模型规模，AdamW 也开始显得力不从心。难道就没有一种方法，既能提升训练速度，又能降低能耗吗?别急

大模型（LLM）如GPT、Llama等在人工智能领域掀起了一场革命，但如何高效地训练这些庞大的模型并使其符合人类价值观仍然是一个难题。强化学习与人类反馈（RLHF）作为一种重要的LLM训练方法，近年来得到广泛应用，但传统的RLHF框架在灵活性、效率和可扩展性方面存在局限性。为解决这些问题，字节跳动豆包大模型团队开源了名为HybridFlow的RLHF框架，为LLM训练带来了新的可能性。RLHF通常包含三个阶段:首先，actor模型根据输入的提示生成文本;然后，critic模型、reference模型和reward模型对生成

字节跳动近期针对“实习生破坏大模型训练”的传闻进行了官方回应。该公司确认，确实有一名实习生恶意干扰了商业化技术团队的研究项目模型训练任务，但这一行为并未影响到公司的正式商业项目和线上业务，也没有涉及到字节跳动的其他大型模型业务。此外，字节跳动还指出，网络上流传的“涉及8000多卡、损失上千万美元”的说法是严重夸大的。据公开报道，该实习生在字节跳动商业化技术团队实习期间，因对团队资源分配不满，利用了Hugging Face平台的漏洞，使用攻击代码破坏了团

火山引擎在近期的视频云技术大会上发布了一项重要创新:大模型训练视频预处理方案。这一技术已成功应用于豆包视频生成模型，标志着AI视频生成技术的重大进展。火山引擎总裁谭待强调，AIGC和多模态技术正在深刻改变用户体验。基于抖音的实践经验，火山引擎正积极探索AI大模型与视频技术的融合，为企业提供全方位解决方案。抖音集团视频架构负责人王悦指出，大模型训练面临诸多挑战，包括海量数据处理成本高、样本质量不一、处理链路复杂，以及多种异构算力资源的调度问题。

飞桨框架3.0版本发布，核心升级为动静统一自动并行技术，旨在简化大模型分布式训练流程，提高开发效率。新版本支持四维至五维混合并行技术，采用多种并行方式，如数据并行、张量模型并行、流水线并行和分组参数切片并行，有效提升大模型训练效率。自动并行技术通过张量切分语法标记，自动推导分布式切分状态和添加通信算子，降低开发难度。自动并行原理包括分布式张量表示、切分推导、切分转换，支持重切分能力。飞桨提供动静统一执行模式，支持从动态图到静态图的转换，兼顾便捷性和效率。性能优化策略包括算子融合、流水线编排调度、通信-计算Overlap和通信融合，通过配置选项即可开启，进一步提升分布式训练性能。

腾讯近日发布了自研星脉网络2.0版本，这一重大升级为大规模人工智能模型训练带来了显著的性能提升。新版本在网络规模、硬件性能、通信协议和故障诊断等多个方面都实现了突破。

腾讯云最近推出了升级版的星脉网络2.0，旨在提高大模型训练的效率。在之前的版本中，大型模型的计算结果同步通信时间占据了50% 以上的比例，导致效率低下。新版本的星脉网络2.0在多个方面进行了升级:

近日，北京互联网法院在线开庭审理了四起插画师起诉AI绘画软件开发运营者的著作权侵权案件。这四起案件的原告均为知名插画师，他们发现自己在某内容分享平台上发布的原创作品被AI绘画软件大量模仿，并作为训练素材用于生成新的画作。这些AI生成的画作不仅与原告的作品风格高度相似，而且被大量用于商业用途，对原告的利益造成了严重侵害。

近日，摩尔线程与全学科教育AI大模型“师者AI”联合宣布，双方已完成大模型训练测试。依托摩尔线程夸娥（KUAE）千卡智算集群，师者AI顺利完成了70亿参数大模型的高强度训练，用时一周，训练效率达到预期，充分展示了国产全功能GPU千卡千亿训练平台的能力。

["美国社交媒体平台Reddit与谷歌达成协议，价值每年约6000万美元","施普林格出版集团与OpenAI合作，成为首家深度整合新闻业与人工智能技术的出版机构","OpenAI与Axel Springer签订合作协议，表明未来大模型训练或将向数据提供方付费","出版行业公司拥有丰富电子化图文资源，有望成为大模型训练重要数据集"]

["中兴通讯推出最新 AI 服务器，支持大模型训练","针对中小型模型的训练和推理需求，中兴通讯推出 G5 系列服务器","中兴通讯计划在今年发布一款支持大模型训练的最新 AI 服务器"]

["上海AI实验室发布大模型训练工具箱XTuner,支持多种硬件适配,大幅降低训练成本门槛。","XTuner支持与多款开源大模型适配,可执行增量预训练、指令微调等任务。","XTuner兼顾易用性和可配置性,内置标准化流程,一键启动训练。"]

["淘天集团联合爱橙科技开源大模型训练框架 Megatron-LLaMA","框架能够提升大语言模型训练性能","降低训练成本","保持和 LLaMA 社区的兼容性","在 32 卡训练上能够取得 176% 的加速"]

["数据作为全新的生产要素，正在形成一条数据产业链。","大模型训练需要海量高质量数据，数据被视为未来大模型公司的核心竞争力之一。","数据的核算和交易面临着许多挑战，如确权、安全性管理等。"]