Ces dernières années, l'IA s'est intégrée à tous les aspects de notre vie, des assistants vocaux aux voitures autonomes. Cependant, son utilisation généralisée présente des risques potentiels, notamment la technologie des deepfakes qui suscite des inquiétudes sociales.
La technologie des deepfakes utilise des algorithmes pour générer des faux contenus extrêmement réalistes. En apprenant à partir d'un grand nombre de données réelles, elle produit des vidéos ou des images très similaires à des personnes ou à des scènes réelles. Bien que cette technologie démontre la puissance de l'IA, elle engendre également des fraudes. Par exemple, des cas récents montrent l'utilisation frauduleuse de l'image et de la voix du Dr Zhang Wenhong pour des séances de vente en direct.
Source : Image générée par IA, fournisseur de services d'autorisation d'images : Midjourney
Tang Jiansheng, vice-secrétaire général du Comité de protection des droits des consommateurs de Shanghai, a déclaré que ce type d'utilisation frauduleuse de l'image de célébrités à l'aide de l'IA constitue une atteinte grave aux droits des consommateurs. Des cas similaires incluent l'utilisation d'une image de Lei Jun pour créer une vidéo satirique pendant la fête nationale, et l'utilisation de la voix de Liu Dehua pour attirer du trafic. Les entreprises et les célébrités concernées ont alerté le public et l'ont incité à la vigilance.
Les experts soulignent que la technologie actuelle de l'IA permet de cloner facilement les visages et les voix, et que la qualité des contenus générés est extrêmement réaliste. Cependant, ces technologies ne sont pas sans failles. En observant attentivement la fusion entre le visage et l'arrière-plan, ou la synchronisation entre la voix et le mouvement des lèvres, il est possible de détecter des anomalies. De plus, les diffusions en direct en temps réel sont pour l'instant difficiles à réaliser avec ce type de technologie.
Des juristes ont clairement indiqué que l'utilisation non autorisée de l'image ou de la voix d'une personne constitue une infraction. Zhu Wei, professeur adjoint à l'Université de droit politique de Chine, souligne que, selon le Code civil, cet acte porte atteinte aux droits de la personnalité ; selon la Loi sur la sécurité du réseau, le contenu concerné est illégal, et les diffuseurs peuvent même encourir des sanctions pénales.
Pour les consommateurs, s'ils achètent des produits à la suite d'une publicité frauduleuse utilisant l'image d'une célébrité générée par l'IA, ils peuvent, en vertu de la Loi sur la protection des droits des consommateurs, demander au commerçant un remboursement triplé, le montant minimum de compensation étant de 500 yuans. Parallèlement, les plateformes de vidéos courtes doivent assumer leur responsabilité de surveillance, renforcer le contrôle et les sanctions concernant ce type de contenu, et éviter la diffusion à grande échelle d'informations illégales.
L'essor de la technologie des deepfakes rappelle au public qu'il doit rester vigilant face aux risques potentiels tout en profitant des avantages de l'IA.
