Der Buddy Compiler ermöglicht die End-to-End-Inferenz von LLaMA durch die Integration von MLIR und PyTorch. Seine Designprinzipien konzentrieren sich auf standardisierte Technologie, niedrige Einstiegshürden und hohes Optimierungspotenzial. Durch die Anbindung an TorchDynamo und Aten IR wird die Konvertierung von PyTorch nach MLIR realisiert. Tests wurden bereits auf der X86AVX512-Plattform durchgeführt, und zukünftige Unterstützung weiterer Hardware-Plattformen ist geplant.