O XTuner é um conjunto de ferramentas de ajuste fino eficiente, flexível e completo, projetado para modelos de linguagem de grande porte (como InternLM, Llama, Baichuan, Qwen, ChatGLM). Ele suporta o pré-treinamento e o ajuste fino de LLMs e VLMs em praticamente qualquer GPU, podendo automatizar a programação de operações de alto desempenho, como FlashAttention e núcleos Triton, para aumentar a taxa de transferência de treinamento. O XTuner é compatível com o DeepSpeed e suporta diversas técnicas de otimização ZeRO. Também suporta vários LLMs e VLMs (como LLaVA) e possui um pipeline de dados bem projetado, capaz de se adaptar a conjuntos de dados de qualquer formato. Além disso, o XTuner suporta vários algoritmos de treinamento, incluindo QLoRA, LoRA e ajuste fino de parâmetros completos, permitindo que os usuários escolham a solução mais adequada às suas necessidades.