Récemment, l'avocate Yvonne Meré, vice-maire adjointe de San Francisco, a intenté un procès contre 16 sites web utilisant l'intelligence artificielle pour créer du contenu pornographique deepfake, sans le consentement des femmes et des filles dont les photos sont transformées en images de nudité. Cette action en justice sans précédent vise à lutter contre cette tendance néfaste qui prend de l'ampleur chez les adolescents, notamment chez les garçons qui utilisent des « applications de déshabillage » pour manipuler les photos de leurs camarades.
Légende : Image générée par IA, fournisseur de services d'autorisation d'images : Midjourney
Selon le New York Times, les 16 sites web visés ont cumulé 200 millions de visites au cours des six premiers mois de l'année. Les sociétés qui gèrent ces sites sont situées en Californie, au Nouveau-Mexique, au Royaume-Uni et en Estonie. Les journalistes ont tenté de contacter les représentants de ces sites, mais n'ont reçu aucune réponse ou n'ont pas pu obtenir d'interview. Certains sites utilisent même des slogans comme « Vous voulez la voir se déshabiller ? » pour promouvoir leurs services, tandis que d'autres encouragent directement les utilisateurs à obtenir des photos nues de femmes via ces sites.
Il est important de noter que ces sites proposent généralement un traitement initial gratuit des images, mais les traitements ultérieurs sont payants, les paiements étant effectués via des cryptomonnaies ou des cartes de crédit. La technologie deepfake utilisée repose sur des modèles d'IA entraînés avec de vraies images pornographiques et des images d'abus sexuels sur enfants, afin de générer des photos de nudité réalistes. Le procureur de San Francisco, David Chiu, souligne que les sanctions infligées aux responsables sont minimes et indique qu'une fois les images diffusées, il est très difficile de retrouver le site web d'origine, ce qui rend le processus d'accès à la justice pour les victimes encore plus complexe.
Sara Eisenberg, responsable d'une unité juridique axée sur les problèmes sociaux importants, souligne que l'éducation des adolescents à l'utilisation sécurisée des technologies est loin d'être suffisante. N'importe quelle photo peut être manipulée sans autorisation, et les mesures de protection traditionnelles sont inefficaces. Eisenberg déclare : « Même si les enfants maîtrisent l'utilisation d'Internet et des médias sociaux, cela n'empêche pas que des personnes utilisent ces sites pour faire des choses extrêmement mauvaises. »
Ce procès vise non seulement à fermer ces sites web, mais aussi à interdire définitivement la création de contenu pornographique deepfake, ainsi qu'à obtenir des dommages et intérêts et le remboursement des frais d'avocat. La plainte affirme que ces sites web violent les lois nationales et locales sur la pornographie de vengeance, les lois sur la pédopornographie et la loi californienne sur la concurrence déloyale, qui interdit les pratiques commerciales illégales et injustes.
Meré a déclaré avoir contacté Eisenberg immédiatement après avoir lu un article du New York Times sur les dangers des images deepfake, et avoir sollicité le soutien de Chiu pour monter ce procès. Chiu a mentionné que les photos deepfake de nus, de Taylor Swift à des lycéennes ordinaires, sont monnaie courante et que presque personne n'est puni. Les experts mettent en garde contre les graves conséquences du contenu pornographique deepfake sur la santé mentale, la réputation, les études et les perspectives professionnelles des victimes.
Bien que Chiu reconnaisse que cette approche pourrait entraîner l'apparition de nouveaux sites web comme des « taupe », ils espèrent pouvoir inclure de plus en plus de nouveaux sites dans les poursuites au fur et à mesure que le problème évolue. En tant que centre de l'industrie de l'intelligence artificielle, San Francisco est l'endroit idéal pour mener ce combat juridique. Chiu souligne que, si les contributions de l'industrie de l'intelligence artificielle sont positives, l'apparition de contenu pornographique deepfake est un « côté obscur » qui doit être résolu.
Points clés :
🌐 San Francisco poursuit 16 sites web de pornographie deepfake pour protéger la vie privée et les droits des femmes.
💰 Le procès vise à fermer ces sites et à obtenir des dommages et intérêts et le remboursement des frais d'avocat.
📉 La pornographie deepfake a de graves conséquences sur la santé mentale et la vie sociale des victimes, et les poursuites judiciaires sont difficiles.
