最近、マイクロソフトは、人工知能が生成する虚偽情報の削減または排除を目的とした技術手法に関する特許申請を行いました。「外部知識とフィードバックを用いた言語モデルとの対話」という名称のこの特許は、昨年アメリカ合衆国特許商標庁（USPTO）に提出され、10月31日に公開されました。
この提案の中心は、AIモデルに「応答強化システム」（RAS）を提供することで、ユーザーの問い合わせに基づいて自動的により多くの情報を抽出し、その回答の「有効性」をチェックすることです。
具体的には、応答強化システムは、「外部ソース」からの情報がユーザーの質問により適切に回答できるかどうかを識別します。AIの回答にこれらの情報が含まれていない場合、システムはその回答を不十分であると判断します。さらに、RASはユーザーに回答の不足点を指摘することもでき、ユーザーはフィードバックを提供することもできます。この方法の利点は、開発者や企業が既存のモデルを詳細に調整する必要がないことです。
現在、USPTOのウェブサイトには、この申請の特許番号はまだ表示されていません。これは、この特許がまだ審査中であることを意味します。マイクロソフトに詳細な情報を求める問い合わせを行いましたが、この特許が、マイクロソフトが以前発表したAIの幻覚を軽減するツールであるAzure AIコンテンツセキュリティツールと関連しているかどうかなど、詳細については回答を得ていません。このツールは、企業向けAIチャットボットにAI駆動の検証を提供し、バックグラウンドで事実確認を行い、AIの回答が「根拠がない」か「根拠がある」かを判断し、実際のデータに基づいた回答のみをユーザーに提供します。
AIの幻覚問題は、生成AIが直面する最大の課題の一つであり、AIチャットボットの信頼性に深刻な影響を与えています。この点に関して、GoogleやTwitterのAIシステムは、ユーザーにピザに接着剤を塗ることを提案したり、石を食べることを提案したり、さらには選挙に関する虚偽情報を拡散したりするなど、注目すべき誤りを犯したことがあります。AppleのCEOであるティム・クックも、Appleのスマートテクノロジーが幻覚の問題を回避できないことを認めています。最近では、OpenAIの「Whisper」音声転写ツールも頻繁に幻覚を起こしていることが判明し、アメリカ合衆国の病院での使用に懸念が生じています。
AIの幻覚問題が顕著であるにもかかわらず、テクノロジー大手はAIデータセンターへの需要を依然として強く抱いています。Google、マイクロソフト、Metaなどの企業は、AIの高いエネルギー消費量を満たす潜在的な解決策として原子力発電を検討しています。
要点：
🔍 マイクロソフトは、AIが生成する虚偽情報を削減するための新しい特許を申請しました。
🤖 この特許の中心は、AIモデルに応答強化システムを導入し、自動的により多くの情報を抽出することです。
⚡ AIの幻覚問題が深刻であるにもかかわらず、テクノロジー企業のAIデータセンターへの需要は依然として強いままです。
