O JetMoE-8B é um modelo de linguagem de grande porte de código aberto que, utilizando conjuntos de dados públicos e métodos de treinamento otimizados, alcançou desempenho superior ao Meta AI LLaMA2-7B com um custo inferior a US$ 100.000. O modelo ativa apenas 2,2 bilhões de parâmetros durante a inferência, reduzindo significativamente o custo computacional, ao mesmo tempo em que mantém um desempenho excepcional.