Mozillaは最近、Mozilla Buildersプログラムを通じて、ローカルの大規模言語モデル（LLM）の簡単なベンチマークテストを目的としたLocalScoreというツールを発表しました。このツールはWindowsとLinuxシステムに対応しており、非常に大きな可能性を秘めており、簡単に配布できるLLMフレームワークの重要な構成要素となっています。LocalScoreはまだ開発初期段階ですが、すでにかなり良いパフォーマンスを示しています。

image.png

LocalScoreは先週リリースされたLlamafile 0.9.2バージョンに基づいて開発されており、このアップデートにより、LocalScoreはCPUとGPU上で大規模言語モデルのパフォーマンス評価を行う実用的なベンチマークツールとなりました。このツールを使用することで、ユーザーはLLMシステムのパフォーマンスを簡単に測定し、迅速かつ信頼性の高い結果を得ることができます。

image.png

ユーザーは、Llamafileパッケージから直接LocalScoreを呼び出すか、WindowsとLinux用の独立したLocalScoreバイナリファイルを使用することで、AIベンチマークテストを簡単に実行できます。特筆すべきは、LocalScore.aiというオプションのリポジトリがあり、CPUとGPUのベンチマークテストの結果を保存するために使用されます。これらの結果は、Meta Llama 3.1モデルの公式モデルに基づいて計算されます。ユーザーはLocalScore.aiを通じて、簡単にベンチマークテストを実行でき、その手順はシンプルで分かりやすいです。

LocalScoreの発表は、MozillaのAIとLLM分野における影響力を高めただけでなく、開発者や研究者にとってオープンソースで便利なベンチマークテストツールを提供しました。Mozilla Buildersプログラムは、AI技術の更なる発展を促進するために、より使いやすく、迅速に展開できるクロスプラットフォームのオープンソースAIベンチマークテストツールの登場を期待しています。