Un rapport alarmant publié récemment par l'Internet Watch Foundation (IWF) du Royaume-Uni révèle une augmentation inquiétante du contenu d'abus sexuels sur mineurs (CSAM) généré par l'intelligence artificielle (IA) sur Internet. Avec la démocratisation de l'IA, presque n'importe qui, disposant d'un ordinateur et de quelques connaissances techniques, peut désormais créer des vidéos deepfake réalistes.
Une enquête de 30 jours menée par l'IWF ce printemps a révélé la présence de 3 512 contenus pédopornographiques créés par IA sur des forums du dark web, la plupart étant extrêmement réalistes. Ce chiffre représente une augmentation de 17 % par rapport à une enquête similaire menée à l'automne 2023. Plus inquiétant encore, la proportion de contenus mettant en scène des actes sexuels plus extrêmes ou explicites a également augmenté.
Source : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney
Dan Sexton, directeur technique de l'IWF, a déclaré : « La réalité s'améliore, et la gravité du contenu augmente. C'est une tendance que nous ne voulons pas voir. » Bien que les vidéos entièrement synthétiques actuelles soient encore imparfaites, cela pourrait rapidement changer avec le développement rapide de la technologie. Même si la plupart des prédateurs utilisent encore des vidéos réelles existantes pour créer des deepfakes, cette tendance inflige indéniablement des dommages durables aux victimes.
Le rapport souligne également les nouveaux défis auxquels sont confrontés les organismes de réglementation, les entreprises technologiques et les forces de l'ordre en raison du développement rapide de l'IA. L'été dernier, sept grandes entreprises d'IA américaines ont signé un engagement public s'engageant à respecter une série de lignes directrices éthiques et de sécurité. Cependant, elles ne contrôlent pas les nombreux petits programmes d'IA disséminés sur le web, souvent gratuits et facilement accessibles.
Ce nouveau type de contenu pédopornographique pourrait rendre plus difficile le suivi des pédophiles qui échangent ce type de contenu. Les nouveaux faux générés peuvent souvent échapper aux analyses automatisées des plateformes de médias sociaux et des forces de l'ordre, ce qui soulève des questions quant à la manière de faire face à cette situation. Le ministère américain de la Justice a déjà inculpé au moins un homme pour avoir créé du contenu pédopornographique à l'aide de l'IA, mais la définition juridique de ce type de crime reste floue.
Le FBI a déclaré qu'il prenait au sérieux chaque allégation de crime contre les enfants et qu'il collaborait avec les forces de l'ordre locales pour mener des enquêtes. Un appel particulier est lancé aux victimes : si vous ou une personne que vous connaissez êtes victime d'exploitation d'enfants, veuillez contacter immédiatement la ligne d'assistance du groupe cybernétique.
Points clés :
📈 Un rapport récent montre une augmentation spectaculaire du contenu d'abus sexuels sur mineurs généré par l'IA sur le dark web, soit une hausse de 17 % par rapport aux chiffres précédents.
🛑 La réalité et la gravité des faux contenus augmentent, causant davantage de dommages et de détresse aux victimes.
⚖️ La législation concernant les contenus générés par IA reste floue, posant de nouveaux défis aux forces de l'ordre.