本文概述了AI推理芯片领域的最新发展，特别是MLPerf推理v4.1竞赛的结果，该竞赛汇集了来自AMD、谷歌、UntetherAI、Cerebras、FuriosaAI以及Nvidia等公司的最新芯片。Nvidia的H200和GH200芯片在“数据中心封闭”类别中保持领先，但其他公司的芯片在特定任务上表现出色，尤其是在能效方面。AMD的Instinct加速器、谷歌的Trillium加速器以及UntetherAI的speedAI240预览芯片在不同任务上表现出色，显示了市场上的竞争激烈。UntetherAI的芯片采用内存计算方法，显示出在能效和延迟方面有显著优势。Cerebras和FuriosaAI虽然没有参加MLPerf，但也发布了新芯片，分别展示了其在内存带宽和张量收缩处理器方面的创新。IBM的Spyre芯片则为即将到来的市场增添了新的竞争者。整体而言，AI推理芯片市场的竞争日益激烈，创新技术不断涌现，旨在提高性能、能效和成本效益。