O OpenDiT é um projeto de código aberto que fornece uma implementação de alto desempenho do Diffusion Transformer (DiT) baseado no Colossal-AI, projetado para melhorar a eficiência de treinamento e inferência de aplicativos DiT (incluindo geração de vídeo a partir de texto e geração de imagem a partir de texto). O OpenDiT aumenta o desempenho por meio das seguintes tecnologias: aceleração de até 80% na GPU e redução de memória de 50%; otimizações centrais, incluindo FlashAttention, Fused AdaLN e Fused layernorm; métodos de paralelismo híbrido incluindo ZeRO, Gemini e DDP, além de particionamento de modelos EMA para reduzir ainda mais o custo de memória; FastSeq: um novo método de paralelismo sequencial, especialmente adequado para cargas de trabalho como DiT, onde o tamanho da ativação é grande, mas o tamanho dos parâmetros é pequeno; paralelismo sequencial de nó único pode economizar até 48% dos custos de comunicação; ultrapassa as limitações de memória de uma única GPU, reduzindo o tempo total de treinamento e inferência; melhorias de desempenho significativas com pequenas alterações de código; os usuários não precisam entender os detalhes da implementação de treinamento distribuído; processo completo de geração de imagem a partir de texto e vídeo a partir de texto; pesquisadores e engenheiros podem facilmente usar e ajustar nosso processo para aplicações reais sem modificar a parte paralela; treinamento de imagem a partir de texto no ImageNet e checkpoints publicados.