ChatGPT、Claude、Geminiなどの大規模言語モデルは印象的ですが、共通の大きな問題を抱えています。それは、しばしば「幻覚」を生み出すことです。これはAI分野における深刻な問題であり、アップルでさえ、将来のApple Intelligenceがどのように幻覚に対処するのか懸念を示しています。幸いなことに、研究者チームがAIの幻覚検出器を開発し、AIが内容をでっち上げているかどうかを判断できるようになりました。

ChatGPTなどの話題のAIプラットフォームにおける幻覚現象を専門家が懸念している。AIの幻覚とは、情報が正しく見えるが実際には不正確である現象のことである。ChatGPTが虚偽の情報を提供したことが指摘され、科学者の注目を集めている。

富士通は、対話型AIモデルの信頼性を高める2つの新しいAI信頼技術を発表しました。これには、幻覚と敵対的攻撃を検出する技術が含まれています。これらの技術は、富士通のAIプラットフォーム「Kozuchi」に統合され、企業や個人ユーザーが対話型AIの回答の信頼性を評価し、AIのセキュリティを強化するためのツールを提供することを目指しています。最初の技術は、対話型AIの回答における幻覚を高い精度で検出することを目的としており、回答における潜在的な誤解の問題に対処します。2つ目の技術は、対話型AIへの敵対的攻撃を検出するために使用されます。