ChatGPT、Claude、Geminiなどの大規模言語モデルは印象的ですが、共通の大きな問題を抱えています。それは、しばしば「幻覚」を生み出すことです。これはAI分野における深刻な問題であり、アップルでさえ、将来のApple Intelligenceがどのように幻覚に対処するのか懸念を示しています。幸いなことに、研究者チームがAIの幻覚検出器を開発し、AIが内容をでっち上げているかどうかを判断できるようになりました。

ガリレオ研究所は、生成AIの精度向上に役立つ新たな指標を発表しました。OpenAIのGPT-4は、基本的な質問応答タスクにおいて23％の幻覚傾向を示しています。ガリレオ研究所の新しい指標には、正確性と文脈の一貫性が含まれています。これらの新しいツールは、企業がAI実装における幻覚問題のテストと軽減に役立ちます。

富士通は、対話型AIモデルの信頼性を高める2つの新しいAI信頼技術を発表しました。これには、幻覚と敵対的攻撃を検出する技術が含まれています。これらの技術は、富士通のAIプラットフォーム「Kozuchi」に統合され、企業や個人ユーザーが対話型AIの回答の信頼性を評価し、AIのセキュリティを強化するためのツールを提供することを目指しています。最初の技術は、対話型AIの回答における幻覚を高い精度で検出することを目的としており、回答における潜在的な誤解の問題に対処します。2つ目の技術は、対話型AIへの敵対的攻撃を検出するために使用されます。