人工知能の急速な発展に伴い、AI「ハルシネーション」現象がますます頻繁に発生し、多くの企業に大きな悩みの種となっています。カスタマーサービス用チャットボットが実際には存在しない製品について自信満々に説明したり、金融AIが市場データをでっち上げたり、医療用ロボットが危険な医療アドバイスを提供したりといった問題が発生しています。これらの問題はもはや単なる面白い話ではなく、企業の評判と収益に深刻な影響を与える重大なリスクとなっています。この課題に対処するため、サンフランシスコに拠点を置くスタートアップ企業Patronus AIは、リアルタイムでの検出と防止を目的とした、世界初のセルフサービスプラットフォームを発表しました。