最近、セキュリティ研究者のヨハン・レーバーガー（Johann Rehberger）氏がChatGPTの脆弱性を発見しました。この脆弱性により、ハッカーはユーザーの長期記憶に偽の情報や悪意のある指示を埋め込む可能性があります。同氏はOpenAIにこの問題を報告しましたが、同社はこれを安全上の問題とは見なさず、迅速に調査を打ち切ったため、十分な対応がなされませんでした。この状況を受け、レーバーガー氏は諦めず、概念実証の攻撃例を開発しました。

MITの研究で、特にチャットボットなどのAIが人間の脳に「偽の記憶」を植え付ける可能性が明らかになりました。実験では、AIが質問を通して被験者に誤った記憶を生じさせ、その記憶が持続することが判明しました。AI技術に興味はあるものの、AIに詳しくない人がAIの影響を受けやすいことも分かりました。この発見は、法律、医療、教育などAIが活用される分野に課題を突きつけます。AIを偽の記憶を植え付ける道具ではなく、記憶を保護・増強する道具として活用するための対策が求められます。記憶の保護は個人の認知に関わるだけでなく、…