Higgs-Llama-3-70B ist ein nachtrainiertes Modell basierend auf Meta-Llama-3-70B, das speziell für Rollenspiele optimiert wurde und gleichzeitig wettbewerbsfähig in der Ausführung von Anweisungen und im logischen Schließen im allgemeinen Bereich bleibt. Das Modell wurde durch überwachtes Feintuning und iterative Präferenzoptimierung unter Verwendung von von menschlichen Bewertern und privaten großen Sprachmodellen erstellten Präferenzpaaren trainiert, um das Modellverhalten an Systemnachrichten anzupassen und es so natürlicher wirken zu lassen. Im Vergleich zu anderen instruierten Modellen folgt Higgs enger seiner Rolle.