2025-02-25 11:02:38.AIbase.15.7k
DeepSeek开源周第二日：首个面向MoE模型的开源EP通信库
Deepseek 公布了开源周第二天的产品，首个面向MoE模型的开源EP通信库，支持实现了混合专家模型训练推理的全栈优化。DeepEP 是一个专为混合专家（MoE）和专家并行(EP)设计的高效通信库。它致力于提供高吞吐量和低延迟的多对多 GPU 内核，通常被称为 MoE 调度和组合。DeepEP 不仅支持 FP8等低精度操作，还与 DeepSeek-V3论文提出的组限制门控算法相一致，优化了不对称域带宽转发的内核，例如将数据从 NVLink 域转发至 RDMA 域。这些内核具有高吞吐量，非常适合于训练和推理预填充任务，并且可以对
