SLM_Surveyは、小型言語モデル(SLMs)に特化した研究プロジェクトです。調査と計測を通じて、これらのモデルに関する深い理解と技術評価を提供することを目的としています。本プロジェクトは、Transformerベースのデコーダーのみの言語モデルを対象とし、パラメーター数は1億から50億の間です。59個の最先端のオープンソースSLMを調査し、その技術革新を分析し、常識推論、コンテキスト学習、数学、プログラミングなど複数の分野で能力を評価しました。さらに、推論遅延とメモリ使用量を含む実行時コストについてもベンチマークテストを実施しました。これらの研究は、SLM分野の研究推進に重要な価値を持ちます。