TikTok a récemment publié un communiqué annonçant qu'il luttera fermement contre l'utilisation de l'IA pour créer de faux contenus visant à tromper les personnes âgées et à obtenir leur interaction. TikTok encourage les créateurs à utiliser l'IA pour faciliter la création de contenu, mais tout contenu doit respecter les règles de la plateforme. Il est strictement interdit d'utiliser l'IA générative pour publier du contenu contraire aux connaissances scientifiques, faux ou diffamatoire.
Le communiqué indique que certains comptes utilisent abusivement l'IA pour générer des avatars virtuels, tels que de jeunes moines bouddhistes, des militaires ou des femmes virtuelles, et utilisent des techniques de manipulation pour inciter les personnes âgées à aimer, suivre, commenter, voire à générer des revenus. Ces comportements violent les règles de la plateforme. TikTok a déjà infligé de lourdes sanctions aux comptes concernés, notamment le retrait des vidéos non conformes, la suppression des droits de publication et de monétisation, et la suspension des comptes.
TikTok a énuméré quelques exemples de violations typiques, notamment :
1. Génération d'un avatar de jeune moine bouddhiste pour exploiter la superstition et obtenir l'interaction des personnes âgées.
2. Génération d'un avatar militaire pour exploiter la nostalgie des personnes âgées envers leurs enfants et obtenir leur interaction.
3. Génération d'un avatar féminin virtuel utilisant des techniques de manipulation émotionnelle pour obtenir l'interaction des personnes âgées.
TikTok souligne que ces contenus violent gravement les règles de la plateforme, et que la plateforme utilisera des moyens techniques pour les identifier et les traiter de manière systématique et à long terme. De plus, TikTok a publié les « Règles de la plateforme TikTok concernant le contenu généré par l'intelligence artificielle et initiative sectorielle », exigeant que les publications indiquent clairement le contenu généré par l'IA, que les personnages virtuels soient enregistrés sur la plateforme, que les utilisateurs de la technologie soient authentifiés et qu'il soit interdit de publier du contenu illégal.
TikTok préconise la création d'une communauté saine et intègre, et s'engage à lutter continuellement contre l'utilisation de l'IA pour tromper les personnes âgées, à protéger leurs droits et à créer un environnement en ligne sûr et fiable. Pour les comportements susceptibles de constituer des infractions pénales, TikTok coopérera activement avec les autorités compétentes.
