En Floride, un homme a été arrêté et inculpé de jusqu'à 20 chefs d'accusation de pornographie juvénile pour avoir créé et distribué du contenu pédopornographique généré par l'intelligence artificielle. Cette affaire soulève de vives inquiétudes concernant l'utilisation abusive de l'intelligence artificielle générative.
Selon CBS12 News, l'homme, Phillip Michael McCorkle, travaillait dans un cinéma à Vero Beach, en Floride. Il a été arrêté la semaine dernière par les forces de l'ordre dans le cinéma, une scène filmée par une équipe de télévision, montrant McCorkle, en uniforme, menotté et emmené par la police.
Cette arrestation fait suite à de multiples signalements au bureau du shérif du comté d'Indian River concernant la publication par McCorkle d'images pédopornographiques générées par une IA sur l'application de messagerie Kik. Cette arrestation s'inscrit dans le cadre d'une campagne de lutte contre la pédopornographie dans le comté, mais la méthode utilisée par McCorkle, utilisant l'intelligence artificielle générative, est particulièrement préoccupante.
La prolifération de ce type de contenu pédopornographique avec l'essor de l'intelligence artificielle générative a attiré l'attention des législateurs de tous niveaux, beaucoup plaidant pour des lois interdisant la diffusion de ce contenu illicite. Cependant, on ne sait pas encore dans quelle mesure ces mesures législatives seront efficaces.
L'année dernière, le National Center for Missing and Exploited Children (NCMEC) a reçu 4700 signalements concernant du contenu pédopornographique généré par l'IA. De plus, certains criminels utilisent même l'IA générative pour créer de fausses images de vrais enfants afin de les faire chanter. Une étude de Stanford en 2023 a également révélé des centaines d'images d'abus sexuels sur des enfants dans des ensembles de données d'images IA génératives largement utilisés.
En combinant ces informations, on observe un problème presque incontrôlable. Dan Sexton, directeur technique de l'Internet Watch Foundation, a déclaré : « Nous avons constaté que le contenu était généré par des logiciels open source, téléchargés et exécutés localement sur des ordinateurs personnels, puis modifiés. Ce problème est d'autant plus difficile à résoudre. »
Points clés :
🛑 Un homme de Floride a été arrêté pour avoir utilisé l'IA pour générer du contenu pédopornographique et fait face à 20 chefs d'accusation.
📱 Il a distribué ce contenu illicite via l'application Kik, suscitant l'inquiétude du public.
⚖️ Les législateurs de tous niveaux cherchent à légiférer contre ce type de contenu, mais l'efficacité de ces mesures reste à voir.
