EXAONE-3.5-32B-Instruct-GGUF, LG AI रिसर्च द्वारा विकसित निर्देश-अनुकूलित द्विभाषीय (अंग्रेजी और कोरियाई) जनरेटिव मॉडल की एक श्रृंखला है, जिसमें 2.4B से 32B पैरामीटर के विभिन्न संस्करण शामिल हैं। ये मॉडल 32K टोकन तक के लंबे संदर्भ प्रसंस्करण का समर्थन करते हैं, वास्तविक दुनिया के उपयोग के मामलों और लंबे संदर्भ समझ में अग्रणी प्रदर्शन दिखाते हैं, साथ ही हाल ही में जारी समान पैमाने के मॉडल की तुलना में सामान्य क्षेत्र में प्रतिस्पर्धी बने रहते हैं। यह मॉडल श्रृंखला तकनीकी रिपोर्ट, ब्लॉग और GitHub के माध्यम से विस्तृत जानकारी प्रदान करती है, और इसमें कई सटीकता वाले निर्देश-अनुकूलित 32B भाषा मॉडल शामिल हैं, जिनमें निम्नलिखित विशेषताएँ हैं: पैरामीटर की संख्या (एम्बेडिंग को छोड़कर) 30.95B है, परतों की संख्या 64 है, ध्यान हेड की संख्या GQA है, जिसमें 40 Q हेड और 8 KV हेड हैं, शब्दावली 102,400 है, संदर्भ लंबाई 32,768 टोकन है, और क्वांटाइजेशन में Q8_0, Q6_0, Q5_K_M, Q4_K_M, IQ4_XS आदि GGUF प्रारूप (BF16 वज़न भी शामिल हैं) शामिल हैं।