サンフランシスコのAIスタートアップ企業Galileoが、ユーザーがAI大規模言語モデル(LLM)の「幻覚」現象をより深く理解し、説明するための新しいツールを発表しました。
Galileo Studioはリアルタイムモニタリング機能を提供し、ユーザーはモデルへの入力と出力の評価を行い、新しい指標と保護策を用いてLLMのパフォーマンスを最適化できます。
Galileoは、「接地性指標」を導入しました。これは、幻覚とモデル出力の真実性を区別し、モデルの出力が正軌を逸脱しないようにするためのものです。
これらの新機能により、開発者はモデルを最適化し、出力の正確性とコンプライアンスを確保することができます。