Selon un nouveau rapport de Human Rights Watch (HRW), une organisation internationale de défense des droits humains, un grand nombre de photos personnelles d'enfants brésiliens, utilisées sans autorisation, ont été découvertes dans les données d'entraînement de plusieurs générateurs d'images par intelligence artificielle (IA) populaires. Cela soulève de graves problèmes concernant la vie privée et la sécurité des enfants.
Le rapport indique que les chercheurs de HRW, en analysant le vaste ensemble de données publiques "LAION-5B", ont trouvé des liens vers au moins 170 photos d'enfants brésiliens provenant de 10 États. Ces photos couvrent toute leur enfance, de la naissance à l'adolescence. La plupart de ces images provenaient de blogs et de vidéos personnels partagés en petit cercle familial et amical, sans intention de diffusion publique.
Source : Image générée par IA, fournisseur de services d'autorisation d'images : Midjourney
Il est important de noter que ces photos contiennent souvent le nom et l'emplacement des enfants, facilitant ainsi leur identification. L'utilisation abusive de ces images expose les enfants à des risques de harcèlement, de phishing et autres dangers. Plus grave encore, certains analystes estiment qu'avec le développement de la technologie de "deepfake", les portraits d'enfants pourraient être utilisés pour générer du contenu pédopornographique.
Le rapport cite des exemples : au moins 85 fillettes brésiliennes ont déclaré que leurs camarades de classe avaient utilisé des outils d'IA pour créer et diffuser de fausses vidéos pornographiques les mettant en scène, leur causant des traumatismes psychologiques durables. HRW appelle les gouvernements à agir rapidement pour protéger les données des enfants contre les abus des systèmes d'IA.
L'organisation LAION a collaboré avec HRW et d'autres institutions pour supprimer les liens vers les images d'enfants de ses données d'entraînement. Cependant, le rapport met en garde contre une possible "sous-estimation significative de la quantité réelle de données personnelles d'enfants présentes dans les ensembles de données".
Une chercheuse de HRW explique que ces photos familiales bénéficiaient auparavant d'un certain niveau de "vie privée" sur internet, étant difficiles à trouver. Mais leur utilisation massive par l'intelligence artificielle a brisé ces limites de confidentialité. Elle dénonce l'injustice de faire porter la responsabilité de la protection de la vie privée des enfants aux parents, estimant que les gouvernements et les entreprises technologiques doivent assumer leurs responsabilités et mettre en place des mesures de protection.
Human Rights Watch appelle le gouvernement brésilien à interdire explicitement, dans sa future législation sur la protection des droits de l'enfant, l'utilisation non autorisée de données personnelles d'enfants pour entraîner des systèmes d'IA, et à prévoir des voies de recours pour les enfants victimes. D'autres estiment que les pays du monde entier devraient renforcer la protection des données des enfants au niveau législatif, afin d'empêcher leur utilisation abusive dans les systèmes d'IA ou la génération de contenus inappropriés.