中国私募巨头幻方量化旗下的 DeepSeek，近日发布了其最新的推理专注型大型语言模型 R1-Lite-Preview。该模型目前仅通过 DeepSeek Chat 这一网页聊天机器人平台提供给公众使用。 DeepSeek 以其在开源 AI 生态系统中的创新贡献而闻名，这次的新发布旨在为公众带来高水平的推理能力，同时保持对可访问性和透明性的承诺。尽管 R1-Lite-Preview 目前仅在聊天应用中可用，但它已凭借接近甚至超过 OpenAI 近期发布的 o1-preview 模型的性能引起了广泛关注。 R1-Lite-Preview 采用 “链式思维” 推理，能够展示其在

近日，英伟达发布了其全新的 Blackwell 平台，并在 MLPerf Training4.1基准测试中展示了初步的性能表现。根据测试结果，Blackwell 在某些方面的性能相比于前一代 Hopper 平台实现了翻倍的提升，这一成果引起了业界的广泛关注。在 MLPerf Training4.1基准测试中，Blackwell 平台在 LLM（大语言模型）基准的 Llama270B 微调任务中，每个 GPU 的性能达到了 Hopper 的2.2倍，而在 GPT-3175B 的预训练中则达到了2倍的提升。此外，在 Stable Diffusion v2训练等其他基准测试中，新一代的 Blackwell 也以1.7倍的优势超过了前代产品

在人工智能驱动的图像生成与理解领域，尽管取得了快速进展，但仍存在显著挑战，阻碍了一个无缝、统一的方法的发展。目前，专注于图像理解的模型往往在生成高质量图像方面表现不佳，反之亦然。这种任务分开的架构不仅增加了复杂性，还限制了效率，使得处理同时需要理解与生成的任务变得繁琐。此外，许多现有模型在有效执行任何功能时，都过于依赖于架构修改或预训练组件，这导致了性能权衡与整合挑战。为了解决这些问题，DeepSeek AI 推出了 JanusFlow，这是一个强大的 AI 框架

在大型云基础设施的管理中，即便是微小的性能下降也可能导致显著的资源浪费。例如，在 Meta 这样的公司中，一项应用的运行速度下降0.05% 看似微不足道，但在数百万台服务器同时运转的情况下，这种微小的延迟会积累成数千台服务器的浪费。因此，及时发现并解决这些微小的性能回归对 Meta 来说是一项巨大的挑战。为了解决这个问题，Meta AI 推出了 FBDetect，这是一个针对生产环境的性能回归检测系统，能够捕捉到最小的性能回归，甚至低至0.005%。FBDetect 能够监控约80万个时间序列，涵盖

近日，来自多家中国科研机构的研究团队重磅发布了名为Infinity-MM的超大规模多模态数据集，并基于该数据集训练出了一个性能卓越的AI模型Aquila-VL-2B。这一突破为多模态AI发展注入了新动力。Infinity-MM数据集规模惊人，共包含四大类数据:1000万条图像描述、2440万条通用视觉指令数据、600万条精选高质量指令数据，以及300万条由GPT-4等AI模型生成的数据。研究团队采用开源AI模型RAM++进行图像分析和信息提取，并通过独特的六大类分类系统确保生成数据的质量和多样性。图源备注：图片由AI生成

Anthropic最近发布了其 Claude AI 模型系列的重大更新，其中包括升级版的 Claude3.5Sonnet 和全新推出的 Claude3.5Haiku。这次更新不仅在性能方面取得了显著进展，还在成本效率上展现了更强的竞争力。这一发布被视为 AI 行业中的一次重要里程碑，尤其在编程能力和逻辑推理方面的提升引人关注。新版本的模型在多个性能基准测试中表现卓越，特别是 Claude3.5Haiku 模型在编程任务中的成绩尤为突出。升级后的 Claude3.5Sonnet 模型在软件工程基准验证测试中取得了49.0% 的得分，创下了公共可用模型的新纪

2024年10月22日 - Anthropic正式发布了新一代快速模型Claude 3.5 Haiku。该公司表示，在与Claude 3 Haiku相似的速度下，Claude3.5 Haiku在各项技能上均有所提升，并在许多智能基准测试中超越了上一代最大模型Claude 3 Opus。Claude 3.5 Haiku最初作为纯文本模型推出，图像输入功能即将上线。该模型目前可通过Anthropic的一方API、Amazon Bedrock和Google Cloud的Vertex AI平台访问。价格和成本节约:Claude 3.5 Haiku的定价为每百万输入token 1美元，每百万输出token 5美元。 用户可以通过提示缓存节省高达90%的成本，并通过Message B

近日，AMD 发布了其最新的 Strix Point APU 系列，强调该系列在 AI 大语言模型（LLM）应用中的出色表现，远超英特的 Lunar Lake 系列处理器。AI 工作负载需求的不断增长，硬件的竞争愈发激烈。为了应对市场，AMD 推出了为移动平台设计的 AI 处理器，旨在更高的性能更低的延迟。AMD 表示，ix Point 系列的 Ryzen AI300处理器在处理 AI LLM 任务时，能够显著提高每秒处理的 Tokens 数量，相较于英特尔的 Core Ultra 258V，Ryzen AI9375的性能提升达到了27%。虽然 Core Ultra7V 并不是 L Lake 系列中最快型号，但其核心和线

本周，苹果在发布会上推出了其最新的 M4系列芯片，标志着其在个人电脑市场中的强劲表现。苹果声称，搭载 M4Pro 和 M4Max 的设备在性能上远超竞争对手的 AI PC 芯片，尤其是在人工智能任务处理方面。M4Pro 芯片提供多达14个 CPU 核心，其中10个为高性能核心，4个为高效核心，同时配备20个 GPU 核心。苹果表示，M4Pro 在 AI 计算能力上比 Intel 的 Core Ultra7258V 快2.1倍，而 M4Max 的表现则更为卓越，声称在 AI 工作负载上可实现4倍的性能优势。尽管苹果并未详细说明所提到的具体工作负载，但业界普遍

在图像处理技术不断突飞猛进的今天，基于Flux架构的IC-Light V2横空出世，凭借其16通道VAE和原生高分辨率特性，为数字图像处理带来革命性突破。这款新一代模型不仅在细节保留方面远超前作，更是将图像处理的精准度推向了新的高度。作为一款全能型图像处理工具，IC-Light V2展现出令人瞩目的适应性。无论是油画还是动漫风格的图像，它都能够游刃有余地进行处理，同时保持原有图像的精髓。相比前代产品SD1.5，IC-Light V2在细节保留方面的表现尤为出色，能够在处理过程中最大程度地保持

法国AI初创公司Les Ministraux 推出两款全新轻量级模型Ministral3B和Ministral8B，专为边缘设备设计，参数分别为30亿和80亿。这两款模型在指令跟随基准测试中表现出色，Ministral3B超越了Llama38B和Mistral7B，Ministral8B则在除代码能力外其他方面均优于这两个模型。测试结果显示，Ministral3B和Ministral8B的性能可媲美Gemma2和Llama3.1等开源模型。 这两款模型都支持高达128k的上下文，并在知识、常识、推理、函数调用和效率方面为低于10B参数的模型树立了新的标杆。 Ministral8B还配备了滑动窗口注意机制，以实现

谷歌 DeepMind 联合麻省理工学院（MIT）近日发布了一项重大研究成果。研究团队开发的新型自回归模型"Fluid"在文本到图像生成领域取得了突破性进展，该模型在扩展到105亿参数规模后，性能表现出色。这项研究颠覆了业界普遍认知。此前，自回归模型虽然在语言处理领域占据主导地位，但在图像生成方面一直被认为不如 Stable Diffusion 和 Google Imagen3等扩散模型。研究人员通过创新性地引入两个关键设计因素，显著提升了自回归模型的性能和可扩展性:采用连续型词元替代离散型词元，以及引入

AMD 正式宣布，他们的下一代 X3D 桌面处理器将基于最新的 Zen5架构，并将在11月7日正式上市。虽然 AMD 只透露了发布日期，却没有提供具体的定价或详细信息，让人充满期待。根据一些泄露的信息，我们可以期待9800X3D 会是首款在11月7日发布的下一代 X3D 处理器。这款处理器预计会配备八个核心，基础时钟频率为4.7GHz，提升时钟频率可能会达到5.2GHz 或更高。这个配置将使得9800X3D 在性能上更具竞争力。最近流出的 MSI 幻灯片也暗示，9000X3D 系列在生产力和创作者工作负载上的表现将远超7000X3D

2024年10月22日，高通在骁龙技术峰会上发布了全新旗舰移动平台——骁龙8至尊版。这款芯片采用台积电第二代3nm 工艺制造，搭载高通自研的 Oryon CPU 架构，实现了性能和能效的双重提升。骁龙8至尊版是高通首款采用全大核设计的移动平台，取消了此前大小核混合的设计思路。其 CPU 部分由两个主频高达4.32GHz 的超级核心和六个主频为3.53GHz 的性能核心组成，创下了手机处理器频率的新纪录。与上一代骁龙8Gen3相比，骁龙8至尊版的 CPU 性能提升最高可达50%，能效提升最高可达45%。GPU 方面，骁龙

瑞士洛桑联邦理工学院 （EPFL） 的一项最新研究比较了两种主流的大型语言模型 (LLM) 适应性训练方法:上下文学习 (ICL) 和指令微调 (IFT)。研究人员使用 MT-Bench 基准测试来评估模型遵循指令的能力，发现在特定情况下，两种方法的表现各有优劣。研究发现，当可用的训练样本数量较少时（例如不超过50个），ICL 和 IFT 的效果非常接近。这表明在数据有限的情况下，ICL 或许可以作为 IFT 的替代方案。然而，随着任务复杂度的增加，例如在多轮对话场景中，IFT 的优势就变得明显。研究人员认为，

在如今这个人工智能（AI）飞发展的时代，各大企业都在全力以赴地想要将 AI 技术应用到生产环境中，以期获得更高的投资回报率。然而，即便市场上有各种先进的 AI 模型，团队们在部署时依然面临不少挑战。根据 Everest Group 的首席执行官彼得・本多尔 - 塞缪尔的估计，90% 的生成式 AI 试点项目将难以进入生产阶段。此外，Gartner 预测到2025年底，许多生成式 AI 项目可能会在概念验证后被遗弃。在这些挑战中，最大的障碍就是协调问题。团队往往缺乏足够的资源来完成所有工作，这使他们不

在全球芯片需求持续上涨的背景下，半导体制造公司（台积电）公布了2024年第三季度的财报，结果令人瞩目。该公司在报告中表示，其净利润达到了3523亿新台币(约合101亿美元)，比去年同期增长了54%。这一成绩超出了市场分析师的预期，路透社此前预计的净利润为3002亿新台币。图源备注:图片由AI生成，图片授权服务商Midjourney台积电作为全球领先的高级芯片制造商，客户群体包括苹果、英伟达等科技巨头，近年来由于人工智能（AI）应用的快速发展，带动了对高性能芯片的强劲需求。这一

最近，AMD 和 NVIDIA 这两大芯片巨头之间的竞争愈演愈烈，但令人意想不到的是，它们之间却悄然展开了一场合作。AMD 的 EPYC 处理器正在为 NVIDIA 的 GPU 在大规模 AI 工作负载中提供强有力的支持。图源备注:图片由AI生成，图片授权服务商Midjourney随着 AI 模型的复杂性不断增加，GPU 和 CPU 的性能需求也在急剧上升。AMD 的 EPYC 处理器在提升 NVIDIA GPU 的性能方面展现出显著潜力。AMD 高级副总裁兼总经理 Ravi Kuppuswamy 在 Advancing AI2024活动上表示:“当 EPYC CPU 与 NVIDIA 的 H100GPU 相连时，我们的训练性能提

在AI训练领域，GPU和其他芯片之间的通信互联（interconnects）是数据传输的关键，但这些互联的带宽限制了AI训练的性能。2022年的一项调查显示，AI开发者通常只能利用GPU容量的25%。Xscape Photonics的首席执行官兼联合创始人Vivek Raghunathan提出了一种可能的解决方案:采用具有更高带宽的新互联技术，其核心技术是硅光子技术，这是一种通过操纵光来传输数据的硅基材料。Xscape Photonics位于硅谷核心地带的圣克拉拉，其技术起源于哥伦比亚大学的一个实验室，那里的三位教授发明了一种他们认为可以

最近，NVIDIA 的最新一代 Blackwell GPU 引发了前所未有的需求，CEO 黄仁勋在一次投资者会议上透露，未来12个月的供应量已经完全售罄。这一现象与几个月前 Hopper GPU 的火爆情况相似，说明了市场对高性能计算的强烈渴望。这次的热销主要受到传统客户的推动，包括 AWS、谷歌、Meta、微软、Oracle 以及 CoreWeave 等大型科技公司。可以说，NVIDIA 和其制造合作伙伴台积电在接下来的四个季度内生产的每一块 Blackwell GPU 都已经被这些巨头提前购得。分析师 Joe Moore 指出，NVIDIA 在 AI 处理器市场的份额有