Nexa AIは先日、エッジデバイスの高効率展開ニーズに対応する、新しい音声言語モデルOmniAudio-2.6Bを発表しました。従来の自動音声認識（ASR）と言語モデルを別々に構成するアーキテクチャとは異なり、OmniAudio-2.6BはGemma-2-2b、Whisper Turbo、カスタムプロジェクターを統合フレームワークに統合しています。この設計により、従来システムの各コンポーネント間の接続による非効率性と遅延が解消され、特に計算リソースが限られている状況に最適です。

フランスのAIスタートアップ企業Les Ministrauxが、エッジデバイス向けに設計された2つの新しい軽量モデル、Ministral3BとMinistral8Bを発表しました。パラメータ数はそれぞれ30億と80億です。これらのモデルは、指示に従うベンチマークテストで優れたパフォーマンスを示し、Ministral3BはLlama 38BとMistral 7Bを上回り、Ministral8Bはコード能力を除くすべての分野でこれら2つのモデルを上回りました。テスト結果は、Ministra...

面壁智能の小型・高性能モデルMiniCPM-Vシリーズの最新版2.6が、GitHubとHugging Faceのトレンドランキングでトップ3に急上昇し、スター数は1万を突破しました。2月のリリース以来、累計ダウンロード数は100万回を超え、エッジデバイスモデルの性能評価におけるベンチマークとなっています。MiniCPM-V2.6は、80億パラメーターでリアルタイム動画理解、複数画像の同時理解、複数画像ICLなどの機能を含むエッジデバイス向けマルチモーダルモデルの性能向上を実現しました。量子化後のエッジデバイスメモリ使用量はわずか6GB、推論速度は18トークンに達します。