研究によると、ChatGPTなどの大規模言語モデルは、訓練過程において一定量の元の訓練データを記憶していることが判明しました。攻撃者は特定の手法を用いることで、モデルから大量の訓練データを引き出し、データ所有者のプライバシーを脅かす可能性があります。研究者らは「抽出可能なメモリ」攻撃という概念を用い、実際の訓練データを使用しなくても、既存の抽出攻撃によって大量のメモリ内の訓練データが復元できることを発見しました。⚠️ 研究者らは、大規模言語モデルの開発と利用にあたって、データの安全保護対策を講じるよう推奨しています。

研究者らが、ChatGPTにおける単語の繰り返しによって個人情報が漏洩する可能性を発見。ChatGPTは以前は許可されていた繰り返しリクエストを拒否し、ユーザーのプライバシー保護を強化。ChatGPTに無限に繰り返し要求することで、モデルがユーザーの機密情報を漏洩する可能性があることが判明。OpenAIはGPTストアのリリースを延期、GPT開発者が新たな職業として台頭。