先日、サイバーセキュリティ企業Palo Alto NetworksのUnit42研究チームが注目すべき研究を発表し、「Deceptive Delight」と呼ばれる新たな脱獄手法を明らかにしました。この手法はわずか2〜3回のやり取りで、大規模言語モデル（LLM）に有害なコンテンツの生成を誘導することに成功し、その成功率は65％にも上ります。この発見は、LLMのセキュリティ保護に警鐘を鳴らしています。画像注記：画像はAI生成、画像ライセンスサービスより

海外のネットユーザーが新たな脱獄技術を発見。無秩序なプロンプトを用いてChatGPTに脅迫ソフトウェアを生成させることに成功しました。人間の脳が、無秩序な文章や単語を理解する特性を利用し、セキュリティフィルターを回避しています。Jim Fan氏は、GPTモデルが無秩序な単語を理解することに驚きを隠せません。