DeepEP est une bibliothèque de communication spécialement conçue pour les modèles d'experts mixtes (MoE) et le parallélisme d'experts (EP). Elle fournit des noyaux GPU entièrement connectés à haut débit et à faible latence, prenant en charge les opérations de faible précision (telles que FP8). La bibliothèque est optimisée pour le transfert de bande passante de domaine asymétrique, adaptée à l'entraînement et à l'inférence de tâches de pré-remplissage. De plus, elle prend en charge le contrôle du nombre de processeurs de flux (SM) et introduit une méthode de chevauchement communication-calcul basée sur des hooks, sans utiliser de ressources SM. Bien que l'implémentation de DeepEP diffère légèrement de l'article DeepSeek-V3, ses noyaux optimisés et sa conception à faible latence lui permettent d'obtenir d'excellents résultats dans les tâches d'entraînement et d'inférence distribuées à grande échelle.