XTuner ist ein effizientes, flexibles und umfassendes Toolkit zum Feinabstimmen großer Modelle (wie InternLM, Llama, Baichuan, Qwen, ChatGLM). Es unterstützt das Vortraining und Feinabstimmen von LLMs und VLMs auf nahezu allen GPUs und kann Hochleistungs-Operationen wie FlashAttention und Triton-Kernels automatisch planen, um den Trainingsdurchsatz zu verbessern. XTuner ist mit DeepSpeed kompatibel und unterstützt verschiedene ZeRO-Optimierungstechniken. Es unterstützt zudem diverse LLMs und VLMs (wie LLaVA) und verfügt über eine gut gestaltete Datenpipeline, die mit Datensätzen in beliebigem Format zurechtkommt. Darüber hinaus unterstützt XTuner verschiedene Trainingsalgorithmen, darunter QLoRA, LoRA und das Feinabstimmen aller Parameter, sodass Benutzer die für ihre Anforderungen am besten geeignete Lösung auswählen können.