Un homme de Floride a été arrêté pour avoir prétendument utilisé l'intelligence artificielle pour créer de la pornographie juvénile et fait face à jusqu'à 20 chefs d'accusation d'obscénité. Cet employé de cinéma a distribué des images de pornographie juvénile créées à l'aide d'un générateur d'images IA sur l'application sociale Kik, suscitant une large attention. L'affaire met en lumière l'abus de l'intelligence artificielle générative et incite les législateurs à tous les niveaux à faire avancer les lois interdisant la diffusion de contenu inapproprié. L'année dernière, le National Center for Missing and Exploited Children a reçu 4 700 signalements liés, notamment l'utilisation de l'IA générative pour créer de faux profonds d'enfants réels afin de les faire chanter.

Un rapport de l'Université Anglia Ruskin révèle une augmentation rapide de la demande d'images d'abus sexuels sur mineurs générées par IA sur le dark web. Le Dr Deanna Davida et le professeur Sam Leendergen ont analysé les conversations des forums du dark web au cours des 12 derniers mois et constaté un intérêt croissant des cybercriminels pour l'utilisation de l'IA pour produire du matériel pédopornographique. Ils créent en ligne des images d'abus générées par IA en apprenant par eux-mêmes et en partageant leurs expériences. L'étude souligne que le problème posé par l'IA est le défi majeur auquel sont confrontées les forces de l'ordre pour comprendre et contrer les contenus générés par IA. Utilisation

Une analyse de 2023 révèle que la grande majorité des deepfakes en ligne sont à caractère pornographique, soit une augmentation de 550 % par rapport à 2019. Les deepfakes pornographiques représentent 98 % de l'ensemble des deepfakes, et 99 % des victimes sont des femmes. La Corée du Sud est devenue le principal pays victime de deepfakes pornographiques, en partie à cause de la popularité de la musique populaire.

Un psychiatre pour enfants de Caroline du Nord a été condamné à la prison pour création, possession et transport de matériel d'abus sexuel sur mineur (CSAM). Le Dr David Tatum, psychiatre pour enfants, a été accusé d'avoir utilisé un logiciel d'intelligence artificielle pour enregistrer secrètement ses patients et créer des images et des vidéos illégales. Le procureur a déclaré que les actes du psychiatre avaient causé des dommages aux enfants, et il a été condamné à 40 ans de prison et à 30 ans de libération sous surveillance.