MaLA-500は、534言語を網羅することを目的とした大規模言語モデルです。LLaMA 2をベースに、語彙拡張と継続的な事前学習、そしてGlot500-cを用いて訓練されました。SIB-200上での実験では、最先端のコンテキスト学習結果を達成しました。低資源言語における自然言語処理の向上を目指した製品です。