Higgs-Llama-3-70Bは、Meta-Llama-3-70Bを基盤としたファインチューニングモデルです。ロールプレイングに特化して最適化されており、一般的な指示実行や推論においても高い競争力を維持しています。本モデルは、教師ありファインチューニングと、人間のアノテーターと独自の巨大言語モデルを用いて構築された選好ペアによる反復的選好最適化を通じて、モデルの挙動をシステムメッセージにより近づけ、整合性を高めています。他の指示型モデルと比較して、Higgsモデルは役割をより忠実に遵守します。