Fluxgym是一款面向AI爱好者的新型训练工具，旨在降低模型训练的门槛。它具有极低的硬件要求，仅需12GB显存即可进行AI模型训练，极大地扩大了参与人群。通过结合简洁的前端和强大的后端，Fluxgym提供了一个易于操作的界面，用户只需完成简单的三个步骤即可启动训练过程。其核心优势在于对低配置设备的支持、简化用户界面和流畅的训练流程，使得AI新手也能快速上手。Fluxgym的推出降低了AI训练的进入壁垒，为更多人打开了AI世界的大门，推动了FLUX Lora模型的发展，并可能激发新的应用和创新。

飞桨框架3.0版本发布，核心升级为动静统一自动并行技术，旨在简化大模型分布式训练流程，提高开发效率。新版本支持四维至五维混合并行技术，采用多种并行方式，如数据并行、张量模型并行、流水线并行和分组参数切片并行，有效提升大模型训练效率。自动并行技术通过张量切分语法标记，自动推导分布式切分状态和添加通信算子，降低开发难度。自动并行原理包括分布式张量表示、切分推导、切分转换，支持重切分能力。飞桨提供动静统一执行模式，支持从动态图到静态图的转换，兼顾便捷性和效率。性能优化策略包括算子融合、流水线编排调度、通信-计算Overlap和通信融合，通过配置选项即可开启，进一步提升分布式训练性能。

英伟达开源了两款新型大模型Nemotron-4-Minitron-4B和Nemotron-4-Minitron-8B，采用结构化剪枝和知识蒸馏高效训练方法，显著降低训练需求，减少数据和算力消耗。与传统方法相比，新模型的训练token数据减少40倍，算力成本节省1.8倍。通过优化Llama-3.18B，结构化剪枝简化模型结构，知识蒸馏提升性能，Minitron-4B和Minitron-8B在MMLU上的评分提升16%，性能媲美Mistral7B等知名模型。这一开源举措展示了英伟达在AI领域的领导地位，并为AI社区提供了宝贵资源，推动AI技术向更高效、更智能方向发展。

Anthropic 首席执行官预计 AI 模型训练成本在未来三年内将会有显著提升，从目前的 10 亿美元增长到 1000 亿美元，引发行业对成本前沿的波澜与 AI 泡沫的可行性讨论。这一成本增长主因在于不断增长的硬件需求，特别是 AI 模型快速扩张对高性能计算硬件（特别是 GPU 和数据中心能源）的驱动。此外，伴随着人工智能从生成式向通用目的的演进，基础理论与发展路径的探讨与其实用成本之间的平衡成为关注焦点。提高效率与优化成本成为 AI 领域深度研究的关键。关注硬件与能源优化、提高人力成本利用效率、数据管理与维护，仍将是降低 AI 训练成本、实现其经济可持续发展的核心路径。因此，AI 产业仍需高度关注技术与经济策略的综合平衡，以推动其蓬勃发展。

腾讯近日发布了自研星脉网络2.0版本，这一重大升级为大规模人工智能模型训练带来了显著的性能提升。新版本在网络规模、硬件性能、通信协议和故障诊断等多个方面都实现了突破。

北大和香港科技大学的团队搞了个大新闻，他们提出了一种训练方法，让8B尺寸的医疗专家模型达到了GPT-4级的性能。这可不是小打小闹，他们还引入了一个新概念——「稳定性差距」，来解释大语言模型在持续预训练过程中出现的一些现象。

腾讯云最近推出了升级版的星脉网络2.0，旨在提高大模型训练的效率。在之前的版本中，大型模型的计算结果同步通信时间占据了50% 以上的比例，导致效率低下。新版本的星脉网络2.0在多个方面进行了升级:

近日，北京互联网法院在线开庭审理了四起插画师起诉AI绘画软件开发运营者的著作权侵权案件。这四起案件的原告均为知名插画师，他们发现自己在某内容分享平台上发布的原创作品被AI绘画软件大量模仿，并作为训练素材用于生成新的画作。这些AI生成的画作不仅与原告的作品风格高度相似，而且被大量用于商业用途，对原告的利益造成了严重侵害。

近日，摩尔线程与全学科教育AI大模型“师者AI”联合宣布，双方已完成大模型训练测试。依托摩尔线程夸娥（KUAE）千卡智算集群，师者AI顺利完成了70亿参数大模型的高强度训练，用时一周，训练效率达到预期，充分展示了国产全功能GPU千卡千亿训练平台的能力。

["美国社交媒体平台Reddit与谷歌达成协议，价值每年约6000万美元","施普林格出版集团与OpenAI合作，成为首家深度整合新闻业与人工智能技术的出版机构","OpenAI与Axel Springer签订合作协议，表明未来大模型训练或将向数据提供方付费","出版行业公司拥有丰富电子化图文资源，有望成为大模型训练重要数据集"]

["Midjourney昨晚发布消息，计划从一月开始训练视频模型。","V6版本即将迎来重要更新，文本处理将有显著进步，内容连贯性提高，准确性改善。","V6版本改进中，Inpainting功能是首要关注点，风格调整器可能带来全新体验。","V7版本预示重大更新，显示Midjourney在视频生成领域将成为竞争力强大的竞争者。","文章报道了Midjourney最新动态，包括V6版本公测、版本更新引争议、V6版5大升级惊艳网友等。"]

["欧盟计划通过提供超级计算机的处理能力，支持本土AI初创公司进行模型训练。","Mistral在欧盟的超级计算访问计划中的早期参与可能表明思路的一致性。","欧盟委员会宣布将为人工智能初创公司提供专用超级计算访问，以帮助它们开发大型模型。","该计划是欧盟在人工智能领域加大投资的最新举措，旨在帮助欧洲公司在这一关键领域与美国竞争。"]

["AI系统A-Lab在17天内独立创造了41种新材料,每天2种以上,远超人类速度。","Google DeepMind开发的GNoME模型为材料项目贡献近40万种新化合物数据。","A-Lab成功合成了58种预测材料中的41种,成功率达71%。","GNoME提高了结构稳定预测的精确度,材料发现效率大幅提高。","AI助力快速制造和测试新材料,可聚焦开发关键未来技术用材料。"]

["中兴通讯推出最新 AI 服务器，支持大模型训练","针对中小型模型的训练和推理需求，中兴通讯推出 G5 系列服务器","中兴通讯计划在今年发布一款支持大模型训练的最新 AI 服务器"]

["上海AI实验室发布大模型训练工具箱XTuner,支持多种硬件适配,大幅降低训练成本门槛。","XTuner支持与多款开源大模型适配,可执行增量预训练、指令微调等任务。","XTuner兼顾易用性和可配置性,内置标准化流程,一键启动训练。"]

["智源研究院发布全球最大的中英文语义向量模型训练数据集 MTP，数据规模达 3 亿对。","MTP 是开源的最大规模中英文关联文本对数据集，为训练语义向量模型提供重要基础。","数据集包含来自多个来源的中英文文本对，涵盖问答、评论、新闻等多种类型。","智源研究院表示数据对大模型训练起到至关重要的作用，将推动人工智能协同创新。","该数据集的发布有望解决中文模型训练数据集缺乏的问题。"]

["淘天集团联合爱橙科技开源大模型训练框架 Megatron-LLaMA","框架能够提升大语言模型训练性能","降低训练成本","保持和 LLaMA 社区的兼容性","在 32 卡训练上能够取得 176% 的加速"]

["明略科技开源了 TensorBoard 的 C 接口，用于监控大模型预训练过程，提升训练效率。","通过可视化模型参数和结果，分析训练状态，提高大模型训练进程和效果。","该工具通过多维度数据模式展示训练指标，包括标量、直方图、图像、音频等。"]

["数据作为全新的生产要素，正在形成一条数据产业链。","大模型训练需要海量高质量数据，数据被视为未来大模型公司的核心竞争力之一。","数据的核算和交易面临着许多挑战，如确权、安全性管理等。"]