最近、AI研究者らが「詩的攻撃」を用いて、OpenAIのChatGPTのトレーニングデータソースを特定することに成功しました。
この攻撃手法は、特定の単語を繰り返し使用することで、ChatGPTに電話番号やメールアドレスなどの個人情報を漏洩させるというものです。
この脆弱性は8月30日にOpenAIに報告されましたが、現時点ではこれ以上のコメントはありません。
研究者らは、より環境に配慮したAIの利用方法を提唱しており、テキストや画像の生成には莫大なエネルギーが消費されることを指摘し、AIの発展を推進する際には、プライバシーとエネルギー消費の問題を慎重に扱う必要があると警告しています。