Le Débogueur Transformer combine l'explicabilité automatisée et les techniques d'auto-encodeurs parcimonieux. Il permet une exploration rapide avant la rédaction du code et offre la possibilité d'intervenir en cours de transmission directe pour observer l'impact sur un comportement spécifique. Il identifie les composants spécifiques (neurones, têtes d'attention, représentations latentes de l'auto-encodeur) contribuant à un comportement, fournit des explications automatiquement générées pour justifier leur forte activation, et suit les connexions entre les composants pour aider à la découverte de circuits.