DeepGEMM est une bibliothèque CUDA axée sur la multiplication matricielle FP8 haute performance. Grâce à un scaling granulaire fin et à plusieurs techniques d'optimisation, telles que les fonctionnalités Hopper TMA, la spécialisation de threads persistante et une conception entièrement JIT, elle améliore considérablement les performances des opérations matricielles. Cette bibliothèque est principalement destinée aux domaines de l'apprentissage profond et du calcul haute performance, et convient aux scénarios nécessitant des opérations matricielles efficaces. Elle prend en charge les Tensor Core de l'architecture NVIDIA Hopper et offre des performances exceptionnelles pour diverses formes de matrices. DeepGEMM est conçu avec simplicité ; son code principal ne compte qu'environ 300 lignes, ce qui le rend facile à apprendre et à utiliser, tout en offrant des performances équivalentes ou supérieures à celles des bibliothèques optimisées par des experts. Son caractère open source et gratuit en fait un choix idéal pour les chercheurs et les développeurs souhaitant optimiser et développer des solutions d'apprentissage profond.