近日，马斯克在直播中正式推出了全新的聊天机器人 Grok3，并透露了该模型训练的惊人成本。Grok3目前已面向 Premium + 订阅用户开放，并在多个评测领域表现出色，甚至超过了市场上其他竞争对手，如 Gemini、DeepSeek 和 ChatGPT。马斯克在直播中介绍，Grok3的训练过程中共计消耗了20万块英伟达 GPU，这一数字让人震惊。在此之前，Grok2的训练只使用了约2万块 GPU，Grok3的计算能力提升可谓是质的飞跃。为了支持如此庞大的训练规模，xAI 公司新建了名为 “Colossus” 的超级计算数据中心，堪称全球最

据《The Information》报道，人工智能初创公司Anthropic计划在未来几周内推出一款全新的混合AI模型。这款模型具备在快速响应和深度推理模式之间灵活切换的能力，为开发者提供了前所未有的控制力和灵活性。该模型的最大亮点在于其可调节的计算成本。与OpenAI模型固定设置不同，Anthropic的模型采用了基于token的滑动比例，允许开发者精确控制计算资源的消耗。当滑动比例设置为“0”时，模型表现类似于OpenAI的GPT-4o，主要侧重于快速响应;而当滑动比例调高时，模型则进入深度推理模式。在深

字节跳动豆包大模型团队今日宣布，成功研发出全新稀疏模型架构UltraMem，该架构有效解决了MoE（混合专家）模型推理时的高额访存问题，推理速度较MoE提升2-6倍，推理成本最高可降低83%。这一突破性进展为大模型的高效推理开辟了新路径。UltraMem架构在保证模型效果的前提下，成功解决了MoE架构推理时的访存瓶颈。实验结果表明，在参数和激活条件相同的情况下，UltraMem不仅模型效果优于MoE，更将推理速度提升了2-6倍。此外，在常见batch size规模下，UltraMem的访存成本几乎与同计算量的Dense

2025年2月11日，在阿联酋迪拜举办的World Governments Summit峰会上，百度创始人李彦宏与阿联酋AI部长奥马尔·苏丹·奥拉马进行了深入对话，共同探讨AI基础设施的未来发展趋势。对话中，奥拉马提及近期DeepSeek引发全球关注，导致多家大型芯片厂商和交易所股价大幅波动的事件，询问李彦宏对于数据中心和AI基础设施未来的看法。

近日，世界政府峰会（WGS）在阿联酋迪拜盛大开幕，吸引了全球各界精英的关注。在峰会期间，百度创始人李彦宏与阿联酋AI部长进行了深入对话，共同探讨了AI领域的最新发展趋势。李彦宏在对话中特别提到了百度在AI推理领域的创新成果——DeepSeek。他表示，创新不仅仅局限于AI领域或IT行业，而是广泛存在于各行各业之中，其中大多数创新的核心都与降低成本密切相关。

近期，美国知名研究机构 Epoch AI 发布了一份报告，正式将 LG 的 Exaone3.532B 模型评选为 “值得注意的 AI” 之一，并在成本效率方面表现尤为突出，与中国的 DeepSeek 不相上下。LG Exaone3.5模型于2023年12月正式推出，其开发投资约为70亿韩元（约合480万美元），这一成本低于 DeepSeek 开发其 V3模型所花费的600万美元。Epoch AI 的评估标准主要考虑了模型的性能、使用频率等因素，而这也是两年来首个获得此类认可的韩国 AI 模型，显示了 LG 在人工智能领域的突破性进展。LG AI 研究所的负责人裵庆勋在

近日，亚马逊首席执行官安迪・贾西在与分析师的电话会议中谈到了人工智能（AI）技术的发展及其成本问题。他表示，随着新技术的不断涌现，特别是 DeepSeek 等模型的推出，人工智能推理的成本将会显著下降。这一变化将使得更多企业能够轻松将 AI 应用于其业务中，尤其是在推理和生成式 AI 的领域。图源备注：图片由AI生成，图片授权服务商Midjourney贾西提到，最近有关 DeepSeek 的消息吸引了很多关注，他认为这一技术突破将会加速人工智能的整体需求增长。这与其他科技行业高管的看法

斯坦福大学和华盛顿大学的研究团队近日联合发布了一项突破性的AI训练方法，该方法名为S1，其核心理念在于利用极简的测试时缩放技术来显著提升语言模型的推理能力。与以往依赖庞大算力或复杂算法不同，S1方法巧妙地通过控制模型在测试时的计算资源分配，实现了性能的飞跃。S1方法首先精心构建了一个名为s1K的小型数据集，其中包含1000个高质量的推理问题。该数据集的筛选标准非常严格，必须同时满足难度高、多样性强、质量优良三个条件。研究团队通过详尽的消融实验验证了这

百度智能云最近成功点亮了国内首个自研的昆仑芯三代万卡集群。这一里程碑式的突破不仅标志着百度在人工智能算力领域迈出了重要一步，同时也为整个行业提供了新的发展思路。随着科技的不断进步，算力的提升对于支持大规模模型的训练和应用显得尤为关键。过去一年，随着 AI 技术的普及，许多公司面临算力紧张的问题，这直接导致了大模型使用成本的居高不下。百度方面表示，通过自研芯片和万卡集群的建设，他们不仅有效解决了自身的算力供应问题，还为其他企业提供了借鉴和

近期，斯坦福大学和华盛顿大学的 AI 研究人员成功训练出了一款名为 s1的 AI 推理模型，训练成本不足50美元，所需的云计算信用额度也非常低。这项研究成果于上周五发布，表明 s1在数学和编程能力测试上表现不逊于 OpenAI 的 o1模型和 DeepSeek 的 R1模型。s1的代码和数据已在 GitHub 上公开，供其他研究者使用。研究团队表示，他们从一个现成的基础模型出发，通过蒸馏技术进行微调，以提取出所需的推理能力。s1的蒸馏过程使用了谷歌的 Gemini2.0Flash Thinking Experimental 模型，这种方法与加州大学

谷歌扩展了其人工智能模型家族，推出了三款新版本的 Gemini2.0模型，分别为基础版 Gemini2.0Flash、经济版 Gemini2.0Flash-Lite 以及实验版 Gemini2.0Pro。这些新模型旨在满足不同的使用需求，并在性能和成本之间提供多样化的平衡。基础版 Gemini2.0Flash 在去年12月首次推出，现在已全面上线，具备了更高的使用频率限制和改进的性能。而 Gemini2.0Flash-Lite 则是一款针对开发者的低成本变体，目前正在通过 API 进行公共预览。Gemini2.0Pro 是一个尚处于实验阶段的模型，专为复杂的提示和编码任务设计，其上

中国人工智能公司 DeepSeek 近日发布其推理模型 R1的开放版本，迅速在科技界引发热议。其惊人的突破性成就不仅令风险投资家马克·安德森惊叹为“我见过的最令人惊叹、最令人印象深刻的突破之一”，更在AI基准测试中展现出匹敌甚至超越 OpenAI o1模型的实力。尤其引人关注的是，DeepSeek 声称其模型训练成本仅为560万美元，而美国领先企业则需要数亿美元，这无疑颠覆了人们对AI模型开发成本的认知。Y Combinator 首席执行官 Garry Tan 认为 DeepSeek 的成功将促使AI推理需求加速，从而带动整个行

正文:近期，中国的 DeepSeek 团队重磅推出了其最新开源大模型 R1，受到了广泛关注。R1模型的性能表现极其出色，在多项测试中均超越了 OpenAI 的 o1模型，尤其是在数学和编程方面的评估中表现优异。在最新的美国 AIME2024测试中，R1以79.8分的成绩超越 o1的79.2分。在 MATH-500测试中，R1获得了97.3分，同样领先于 o1的96.4分。此外，在 SWE-bench Verified 测试中，R1得分为49.2，也超过了 o1的48.9分。虽然在代码测试 Codeforces 中，R1仅比 o1低0.3分，但整体性能与 o1模型相当。除了性能，R1的成本优势更为引人

在大模型（Large Language Model，LLM）快速发展的今天，模型的训练和推理成本日益成为研究和应用的关注焦点。最近，腾讯混元团队发布了一项重要研究，深入探讨了低比特浮点量化训练的 “Scaling Laws”，即浮点数量化训练的规模法则。此项研究的核心在于通过降低模型的精度，探索如何在不损失性能的情况下，显著降低计算和存储成本。研究团队进行了多达366组不同参数规模和精度的浮点数量化训练，系统分析了影响训练效果的多种因素，包括模型大小（N）、训练数据量(D)、指数位(E)、尾

近日，加州大学伯克利分校的 Sky Computing Lab 团队发布了 Sky-T1-32B-Preview，这是一款开放源代码的推理型人工智能模型，标志着推理型 AI 的研发变得更加容易和便宜。该模型在多个关键基准测试中表现出色，甚至与 OpenAI 早期版本的 o1相媲美。Sky-T1的训练成本令人瞩目，仅为450美元，这意味着高水平推理能力的复制已变得更加可负担且高效。虽然450美元的费用可能听起来不算低，但与几年前动辄数百万美元的训练成本相比，已是巨大的下降。借助合成训练数据，即由其他模型生成的训练数据

加州大学伯克利分校天空计算实验室的研究团队NovaSky于周五发布了Sky-T1-32B-Preview推理模型，这一模型在多个关键基准测试中表现优异，与OpenAI的o1早期版本相媲美，更令人瞩目的是其极低的训练成本。Sky-T1-32B-Preview是首个真正的开源推理模型，NovaSky团队不仅发布了模型，还公开了用于训练它的数据集及必要的训练代码，这意味着该模型可从头开始复制。据团队在博客文章中所述，“Sky-T1-32B-Preview的训练成本不到450美元，这表明可以经济高效地复制高级推理能力。”在不久前，训练同等性能

随着人工智能在医疗领域的潜力日益受到关注，巴西初创公司 Carecode 也在这一趋势中崭露头角。Carecode 专注于利用人工智能智能体处理医疗预约前后的各种任务，旨在降低医疗费用并改善医疗效果。CEO Thomaz Srougi 在接受采访时表示，医疗过程中不仅医生会面的重要性不可忽视，预约的前后环节同样至关重要。他的医疗背景源于十年的行业经验，曾创办了私人医疗服务提供商 Dr. Consulta，并在该公司担任董事长。图源备注:图片由AI生成，图片授权服务商MidjourneyCarecode 目前正处于融资的初期阶

幻方量化于12月26日晚发布全新一代大模型DeepSeek-V3，展现出惊人的技术突破。这款采用MoE（混合专家）架构的模型不仅在性能上媲美顶级闭源模型，其低成本高效率的特点更是引发业界关注。从核心参数来看，DeepSeek-V3拥有6710亿参数，其中激活参数为370亿，在14.8万亿token的数据规模上完成预训练。相比前代产品，新模型的生成速度提升了3倍，每秒可处理60个token，显著提升了实际应用效率。在性能评测方面，DeepSeek-V3展现出卓越实力。它不仅超越了Qwen2.5-72B和Llama-3.1-405B等知名开源模型，更

训练大型AI模型（如Transformer和语言模型）已成为AI领域不可或缺的关键环节，但也面临着高昂的计算成本、内存消耗和能源需求。例如，OpenAI的GPT-3拥有1750亿个参数，需要数周的GPU训练。这种巨大的资源需求限制了这项技术在大规模计算资源充足的组织中的应用，同时也加剧了人们对能源效率和环境影响的担忧。解决这些挑战对于确保AI发展的更广泛可及性和可持续性至关重要。传统训练方法效率低下，亟需创新解决方案大型模型训练效率低下的主要原因在于其对稠密矩阵的依赖，这需要

备受瞩目的GPT-5项目（代号Orion）已研发超过18个月，却迟迟未能面世。据《华尔街日报》最新报道，知情人士透露，尽管Orion的表现优于OpenAI现有模型，但其进步幅度尚不足以证明继续投入巨额成本的合理性。更令人担忧的是，全球数据量的匮乏，可能正成为GPT-5迈向更高智能水平的最大障碍。据称，GPT-5至少经历了两次训练，每次训练都暴露出新的问题，未能达到研究人员的预期。每轮训练耗时数月，仅计算成本就高达5亿美元。这个项目能否成功、何时能成功，目前尚不明朗。训练之路困