CM3leon est un modèle avancé capable de générer du texte à partir d'images et des images à partir de texte. Il utilise une recette d'entraînement adaptée aux modèles auto-régressifs, incluant une phase de pré-entraînement massivement améliorée par la recherche et une phase d'ajustement fin supervisé multitâche. CM3leon offre une diversité et une efficacité comparables aux modèles auto-régressifs, tout en étant moins coûteux à entraîner et plus efficace en inférence. Il s'agit d'un modèle multimodal à masquage causal (CM3) capable de générer des séquences de texte et d'images à partir de n'importe quel contenu image et texte. Contrairement aux modèles précédents limités à la génération de texte à partir d'images ou d'images à partir de texte, CM3leon offre une plus grande extensibilité fonctionnelle en matière de génération multimodale.