Nemotron-4-340B-Base es un modelo de lenguaje grande desarrollado por NVIDIA con 340 000 millones de parámetros, que admite una longitud de contexto de 4096 tokens. Es adecuado para generar datos sintéticos y ayudar a investigadores y desarrolladores a construir sus propios modelos de lenguaje grandes. El modelo se ha preentrenado con 9 billones de tokens, que abarcan más de 50 idiomas naturales y más de 40 lenguajes de programación. La licencia de modelo abierto de NVIDIA permite el uso comercial y la creación y distribución de modelos derivados, sin declarar propiedad alguna sobre ninguna salida generada mediante el modelo o los modelos derivados.