EXAONE-3.5-32B-Instruct-GGUF é uma série de modelos geradores bilíngues (inglês e coreano) com ajuste de instruções, desenvolvidos pela LG AI Research, com versões contendo de 2,4B a 32B de parâmetros. Esses modelos suportam o processamento de contextos longos de até 32K tokens, demonstrando desempenho de ponta em casos de uso do mundo real e compreensão de contextos longos, mantendo-se competitivo em domínios gerais em comparação com modelos de tamanho semelhante lançados recentemente. A série de modelos fornece detalhes por meio de relatórios técnicos, blogs e GitHub, e inclui modelos de linguagem 32B com ajuste de instruções em várias precisões, com as seguintes características: número de parâmetros (sem embeddings) de 30,95B, 64 camadas, número de cabeças de atenção GQA (40 cabeças Q e 8 cabeças KV), vocabulário de 102.400, comprimento de contexto de 32.768 tokens, quantização incluindo Q8_0, Q6_0, Q5_K_M, Q4_K_M, IQ4_XS e formatos GGUF (incluindo também pesos BF16).