Zamba2-miniは、Zyphra Technologies Inc.がリリースした、デバイス向けに設計された小型言語モデルです。700MB未満という極めて小さなメモリ容量を維持しながら、大規模モデルに匹敵する評価スコアとパフォーマンスを実現しています。4ビット量子化技術を採用することで、パラメータ数を7倍削減しながら、同等の性能を維持しています。Zamba2-miniは推論効率に優れ、Phi3-3.8Bなどの大規模モデルと比較して、最初のトークン生成時間、メモリ消費量、生成遅延が短縮されています。さらに、このモデルの重みはオープンソース（Apache 2.0）として公開されており、研究者、開発者、企業がその能力を活用し、効率的な基礎モデルの限界を押し広げることができます。