Un nouvel outil nommé Nightshade permet aux artistes d'insérer des pixels invisibles dans leurs images, induisant ainsi en erreur les modèles d'IA. Cela pourrait rééquilibrer le rapport de force entre l'IA et les artistes, mais comporte également des risques d'abus.
Nightshade modifie les pixels d'une image pour que les modèles d'IA apprennent de fausses identifications d'objets et de scènes. Par exemple, il peut faire en sorte qu'un chien soit identifié comme un chat. Les chercheurs ont soumis le travail sur Nightshade à l'examen par les pairs de la conférence sur la sécurité informatique Usenix.
