ComfyUI-GGUF ist ein Projekt, das native ComfyUI-Modelle mit GGUF-Quantisierung unterstützt. Es ermöglicht die Speicherung von Modelldateien im GGUF-Format, das von llama.cpp verbreitet wird. Obwohl herkömmliche UNET-Modelle (conv2d) nicht für die Quantisierung geeignet sind, scheinen Transformer-/DiT-Modelle wie flux weniger stark von der Quantisierung betroffen zu sein. Dies ermöglicht ihren Betrieb auf Low-End-GPUs mit niedrigeren Bitraten pro Gewichtsvariable.