在3月18日的 GTC 大会上,Nvidia 首席执行官黄仁勋宣布了一项令人奋的计划,旨在通过新推出的软件 Dynamo,将 DeepSeek 的人工智能处理速度提高30倍。此举是 Nvidia 对 DeepSeek 公司 R1人工智能程序引发的市场动荡的回应。DeepSeek 的技术能够显著降低每个查询所需的计算量,导致投资者对 Nvidia 的未来前景表示担忧。

QQ_1742352534028.png

Nvidia 的 Dynamo 软件能够将 AI 推理任务分配到多达1000个 GPU 上并行处理,极大地提升了查询吞吐量。黄仁勋表示,使用新的 Blackwell 芯片,Dynamo 能够在相同的架构下提供30倍的处理能力。这种能力的提升使得 AI 数据中心可以在每秒内处理更多的 tokens,从而提高整体收入。

具体来说,Dynamo 软件能够以每百万个 tokens $1的价格,提升每秒的处理量。这意味着,服务提供商可以选择同时处理更多客户的查询,或是为单一用户提供更强大的服务,从而收取更高的费用。Nvidia 称这种高性能的 AI 服务为 “AI 工厂”。

为了进一步增强 DeepSeek 的性能,Nvidia 还在 HuggingFace 上发布了经过调整的 DeepSeek R1版本。这一版本使用了更少的计算位数,即 “FP4”,从而在不显著降低模型准确性的前提下,大幅提升了性能。

除了 Dynamo,Nvidia 还推出了最新版本的 Blackwell 芯片 “Ultra”,提升了内存容量和整体性能。此外,Nvidia 还正式发布了供 AI 开发者使用的小型个人计算机 DGX Spark,并更新了 DGX Station 桌面计算机的配置。

在此次大会上,Nvidia 还展示了其他多项新产品和合作项目,包括改进的网络交换机和适用于医疗机器人的软件模型,展示了 Nvidia 在 AI 和计算领域的持续创新能力。

划重点:  

🌟 Nvidia 推出 Dynamo 软件,将 DeepSeek AI 的处理速度提升30倍。  

💰 通过 Dynamo,服务提供商能够更高效地处理客户查询,提高收入。  

🖥️ 新版 Blackwell 芯片 “Ultra” 和 DGX Spark 计算机也在大会上正式发布。