最近、ニューメキシコ州の警察が、AIで生成された14歳の少女の仮想画像を性犯罪容疑者の逮捕に利用したことが物議を醸しています。この捜査は、検察官がソーシャルメディアアプリSnapchatを、児童の性的搾取と虐待から保護できなかったとして訴追したことが背景にあります。
画像出典：AI生成画像、画像ライセンス提供元Midjourney
訴状によると、警察はSnapchat上で「ヘザー」という偽アカウントを作成し、潜在的な性犯罪者との接触を試みました。
この捜査で、警察は「child.rape」や「pedo_lover10」など、身の毛もよだつようなユーザー名を使用する明白な性犯罪容疑者と連絡を取りました。従来、同様の捜査では、若い女性の写真（多くの場合、警察官の写真）を使用して犯罪者を騙していましたが、今回はAIで生成された仮想少女の画像が使用されました。
捜査の結果、この方法は予想外の成功を収め、多くの容疑者がこの罠にかかり、「ヘザー」にわいせつな画像や児童性的虐待物を共有させようとしたことが明らかになりました。この捜査はSnapchatアルゴリズムの裏にある暗い現実を明らかにしましたが、警察によるAI生成画像の使用は新たな倫理的問題を引き起こしました。
法律専門家は、政府がディープフェイクの児童性的虐待素材（CSAM）を作成することは懸念事項であり、それらの画像はそれ自体が違法であり、社会はより多くの児童性的虐待素材の流布を望んでいないと指摘しています。
さらに、AIによる仮想児童画像の生成プロセスには、トレーニングデータセットの問題も含まれます。偽の児童画像を生成するために、AIモデルは実際の児童の写真を使用してトレーニングする必要があります。特に性的暗示を含む画像を生成する場合、児童が本当にこれに対して完全に同意できるのかどうか疑問が残ります。この状況は、法的および倫理的な複雑さを増しています。
警察によるAI生成の仮想少女を使った誘いは、犯罪容疑者を逮捕する一方で、倫理と法律に関する多くの議論を引き起こしています。これが本当に児童保護の最善の方法なのかどうか、社会全体で深く考える必要があります。
要点：
1️⃣ ニューメキシコ州警察がAIで生成された仮想少女の写真を使って性犯罪容疑者を誘引。
2️⃣ この方法は容疑者の逮捕に成功した一方で、倫理と法律に関する新たな問題を引き起こした。
3️⃣ AIによる児童画像の生成には、実際の児童の写真が必要であり、同意とプライバシーの問題が絡む。
