EXAONE-3.5-32B-Instruct-GGUF est une série de modèles de génération bilingues (anglais et coréen) optimisés pour les instructions, développés par LG AI Research. Ils comprennent différentes versions avec 2,4 milliards à 32 milliards de paramètres. Ces modèles prennent en charge le traitement de contextes longs jusqu'à 32 000 jetons, démontrant des performances de pointe dans les cas d'utilisation réels et la compréhension de contextes longs, tout en restant compétitifs dans le domaine général par rapport aux modèles de taille similaire récemment publiés. Ce modèle est détaillé dans des rapports techniques, des blogs et sur GitHub. Il inclut des modèles linguistiques 32B optimisés pour les instructions avec différentes précisions, et présente les caractéristiques suivantes : 30,95 milliards de paramètres (hors plongements), 64 couches, nombre de têtes d'attention GQA (40 têtes Q et 8 têtes KV), vocabulaire de 102 400 mots, longueur de contexte de 32 768 jetons. La quantification inclut les formats GGUF Q8_0, Q6_0, Q5_K_M, Q4_K_M, IQ4_XS (ainsi que les poids BF16).