Tele-FLM-1Tは、約2Tトークンで訓練された、1Tパラメーターのオープンソース多言語大規模言語モデルです。デコーダーのみのTransformerアーキテクチャに基づいており、その規模において卓越した性能を示し、場合によってはより大きなモデルをも凌駕します。モデルの重みの共有に加え、コア設計、エンジニアリングプラクティス、トレーニングの詳細も提供しており、学術界と産業界の双方に貢献することを期待しています。