MAP-NEOは、完全オープンソースの大規模言語モデルです。事前学習済みデータ、データ処理パイプライン（Matrix）、事前学習スクリプト、およびアラインメントコードを含みます。4.5Tの英語と中国語のトークンを使用してゼロからトレーニングされ、LLaMA2 7Bと同等の性能を示します。推論、数学、コーディングなどの困難なタスクで優れた性能を発揮し、同規模のモデルを上回っています。研究目的のため、LLMトレーニングプロセスの完全な透明性を達成することに尽力しており、最終的なチェックポイントと中間チェックポイント、自己トレーニング済みトークナイザー、事前学習済みコーパス、効率的で安定した最適化済み事前学習コードライブラリを含め、MAP-NEOを全面的に公開しています。