PatronusAI/Llama-3-Patronus-Lynx-70B-Instruct-Q4_K_M-GGUF est un grand modèle linguistique quantifié basé sur 70 milliards de paramètres. Il utilise une technique de quantification sur 4 bits pour réduire la taille du modèle et améliorer l'efficacité de l'inférence. Ce modèle, appartenant à la série PatronusAI, est construit sur la librairie Transformers et convient aux applications nécessitant un traitement du langage naturel performant. Le modèle est sous licence cc-by-nc-4.0, ce qui signifie qu'il peut être utilisé et partagé à des fins non commerciales.