富士通、対話型AIの幻覚や敵対的攻撃から守る新技術を発表

富士通は、対話型AIモデルの信頼性と安全性を高める2つの新しいAI信頼技術を発表しました。

1つ目の技術は、対話型AIの応答における「幻覚」を高精度で検出することに焦点を当てています。「幻覚」とは、AIが事実と異なる情報を生成してしまう現象で、誤解を招く可能性があります。この技術によって、そのような誤解を防ぐことが期待されます。

2つ目の技術は、対話型AIの応答に埋め込まれたフィッシング（なりすまし詐欺）ウェブサイトの検出を目的としています。これにより、AI応答の安全性が向上します。

これらの技術は富士通のAIプラットフォームに統合され、様々な分野でより信頼性の高いAIサービスを提供できるようになると期待されています。