EXAONE-3.5-32B-Instruct-GGUF ist ein von LG AI Research entwickeltes, an Weisungen angepasstes, zweisprachiges (Englisch und Koreanisch) generatives Modell. Es umfasst verschiedene Versionen mit 2,4 bis 32 Milliarden Parametern. Diese Modelle unterstützen die Verarbeitung langer Kontexte mit bis zu 32.000 Tokens und zeigen Spitzenergebnisse bei realen Anwendungsfällen und dem Verständnis langer Kontexte. Gleichzeitig bleiben sie im Vergleich zu kürzlich veröffentlichten Modellen ähnlicher Größe im allgemeinen Bereich wettbewerbsfähig. Das Modell wird in technischen Berichten, Blogs und auf GitHub detailliert beschrieben und beinhaltet mehrere, an Weisungen angepasste 32B-Sprachmodelle mit unterschiedlicher Genauigkeit. Die Eigenschaften sind: 30,95 Milliarden Parameter (ohne Einbettungen), 64 Schichten, GQA-Aufmerksamkeitsköpfe (40 Q-Heads und 8 KV-Heads), ein Vokabular von 102.400 Wörtern, eine Kontextlänge von 32.768 Tokens und Quantisierung einschließlich Q8_0, Q6_0, Q5_K_M, Q4_K_M, IQ4_XS und GGUF-Formaten (einschließlich BF16-Gewichten).