企業による大規模言語モデル（LLM）の利用が増えるにつれ、モデルの知識の正確性を高め、幻覚現象を低減することが重要な課題となっています。Meta AIの研究者たちは新たな論文で、「拡張メモリ層」と呼ばれる、この問題に対する解決策となる可能性のある手法を発表しました。拡張メモリ層の核心は、推論時の計算資源を増やすことなく、LLMに追加パラメータを導入することで学習能力を高めることです。このアーキテクチャは、大量の事実知識を保存しつつ、推論処理を維持したい場合に適しています。

大規模言語モデル（LLM）の登場、特にChatGPTなどのアプリケーションの普及により、人機インタラクションの方法が根本的に変わりました。これらのモデルは、首尾一貫した包括的なテキストを生成でき、非常に印象的です。しかし、その強力な能力にもかかわらず、LLMは「幻覚」を起こしやすいという欠点があります。つまり、一見すると真実のように見えるが、実際には架空のものであったり、意味をなさないものだったり、プロンプトと一致しない内容を生成してしまうのです。ハーバード大学の研究者らは、LLMの「幻覚」現象について深く研究し、その根本原因がLLMの動作原理にあることを発見しました。LLMは膨大なテキストデータに基づいて…

ChatGPTなどの話題のAIプラットフォームにおける幻覚現象を専門家が懸念している。AIの幻覚とは、情報が正しく見えるが実際には不正確である現象のことである。ChatGPTが虚偽の情報を提供したことが指摘され、科学者の注目を集めている。

アメリカのAIスタートアップ企業Galileoが、AI大規模モデルの幻覚現象を解明する新しいツールを発表しました。Galileo Studioはリアルタイムモニタリング機能を備え、LLMのパフォーマンスを最適化します。Galileoは、モデル出力の信頼性を評価するための新しい指標と保護策を導入し、幻覚の問題を解決し、LLMの出力が正確でコンプライアンスに準拠することを保証します。