Récemment, la police du Nouveau-Mexique a suscité une controverse en utilisant une image de synthèse d'une fille virtuelle de 14 ans, générée par une intelligence artificielle (IA), lors d'une enquête visant à piéger des suspects de crimes sexuels. Cette enquête fait suite à une action en justice intentée par le procureur contre l'application de médias sociaux Snapchat, accusée de ne pas protéger les enfants contre l'exploitation et les abus sexuels.
Source : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney
Selon les documents judiciaires, la police a créé un faux compte Snapchat nommé « Heather » pour tenter d'entrer en contact avec de potentiels criminels sexuels.
Au cours de cette opération, la police a identifié et échangé avec plusieurs suspects présumés de crimes sexuels, dont les noms d'utilisateur étaient particulièrement effrayants, tels que « child.rape » et « pedo_lover10 ». Dans le passé, la police utilisait généralement des photos de jeunes femmes (souvent des policières) pour piéger ces criminels, mais cette fois, elle a opté pour une image virtuelle de jeune fille générée par IA.
Les résultats de l'enquête montrent que cette méthode a eu un succès inattendu, de nombreux suspects étant tombés dans le piège en tentant d'inciter « Heather » à partager des images explicites ou du matériel d'abus sexuels sur des enfants. Bien que cette enquête ait révélé la face sombre de l'algorithme de Snapchat, l'utilisation d'images générées par IA soulève de nouvelles questions éthiques.
Des experts juridiques soulignent que la création par le gouvernement de fausses images d'abus sexuels sur mineurs (CSAM) est préoccupante, car ces images sont elles-mêmes illégales et la société ne souhaite pas voir une augmentation de la diffusion de ce type de matériel.
De plus, le processus de génération d'images virtuelles d'enfants par IA implique des questions relatives aux ensembles de données d'entraînement. Pour générer de fausses images d'enfants, les modèles d'IA doivent être entraînés à partir de photos d'enfants réels. Cela soulève la question de savoir si les enfants peuvent véritablement consentir à cela, surtout lorsqu'il s'agit de générer des images potentiellement suggestives. Cette situation ajoute une complexité juridique et éthique supplémentaire.
L'utilisation par la police d'une jeune fille virtuelle générée par IA pour piéger des suspects, tout en permettant d'appréhender des criminels, soulève de nombreuses questions d'ordre éthique et juridique. Il est légitime de se demander si cette méthode constitue la meilleure façon de protéger les enfants.
Points clés :
1️⃣ La police du Nouveau-Mexique utilise une photo de jeune fille virtuelle générée par IA pour piéger des suspects de crimes sexuels.
2️⃣ Cette méthode, tout en permettant d'appréhender des suspects, soulève de nouvelles questions éthiques et juridiques.
3️⃣ La génération d'images d'enfants par IA repose sur des photos d'enfants réels, ce qui pose des problèmes de consentement et de confidentialité.
