Zamba2-mini est un modèle linguistique miniature publié par Zyphra Technologies Inc., spécialement conçu pour les applications embarquées. Il offre des scores et des performances comparables à ceux des modèles plus grands, tout en conservant une empreinte mémoire extrêmement faible (<700 Mo). Ce modèle utilise une technique de quantification sur 4 bits, permettant une réduction de 7 fois des paramètres tout en conservant les mêmes performances. Zamba2-mini excelle en matière d'efficacité d'inférence, affichant un temps de génération du premier jeton plus rapide, une consommation mémoire inférieure et une latence de génération plus faible que des modèles plus importants, tels que Phi3-3.8B. De plus, les poids du modèle ont été publiés en open source (Apache 2.0), permettant aux chercheurs, développeurs et entreprises d'exploiter ses capacités et de repousser les limites des modèles de base hautement efficaces.