企業による大規模言語モデル（LLM）の利用が増えるにつれ、モデルの知識の正確性を高め、幻覚現象を低減することが重要な課題となっています。Meta AIの研究者たちは新たな論文で、「拡張メモリ層」と呼ばれる、この問題に対する解決策となる可能性のある手法を発表しました。拡張メモリ層の核心は、推論時の計算資源を増やすことなく、LLMに追加パラメータを導入することで学習能力を高めることです。このアーキテクチャは、大量の事実知識を保存しつつ、推論処理を維持したい場合に適しています。

Meta社は先日、画期的な研究成果を発表しました。同社は、大規模言語モデル（LLM）の事実精度を大幅に向上させ、前例のない規模でのパラメーター拡張を実現する、新型メモリ層技術を開発しました。この技術は、従来のニューラルネットワークの拡張方法に挑戦するだけでなく、将来のAIアーキテクチャ設計に新たな方向性を提供します。この研究の中核は、学習可能なキーバリュー検索メカニズムを利用して、計算量（FLOPs）を増やすことなくモデルに追加パラメーターを追加することです。この手法の中核的な考え方は…