新たな研究によると、大規模言語モデル（LLM）における善意に基づく安全対策が、意図しない弱点につながる可能性があることが示されました。研究者らは、人口統計学的用語によってモデルの「脱獄」の難易度が大きく異なることを発見しました。「LLMは政治的に正しいか？」と題されたこの研究では、人口統計学的キーワードが脱獄試行の成功確率にどのように影響するかを検証しています。その結果、特権的なグループに関連する用語よりも、マイノリティグループに関連する用語を使用したプロンプトの方が、望ましくない応答を引き出す可能性が高いことが分かりました。