Tele-FLM-1T es un modelo de lenguaje grande multilingüe de 1T de código abierto, basado en una arquitectura Transformer de solo decodificador, entrenado con aproximadamente 2T de tokens. El modelo muestra un rendimiento excepcional en su escala, a veces superando incluso a modelos más grandes. Además de compartir los pesos del modelo, también proporcionamos el diseño principal, las prácticas de ingeniería y los detalles del entrenamiento, con la esperanza de beneficiar tanto a la comunidad académica como a la industrial.