Selon un article du journal Southern Metropolis Daily, un récent cas type publié par le Bureau de la sécurité publique du Ministère de la sécurité publique révèle une nouvelle méthode inquiétante de propagation de fausses informations en ligne. Les autorités publiques de Guangzhou, dans le Guangdong, ont réussi à démanteler un gang criminel utilisant des outils d'intelligence artificielle pour produire massivement de fausses informations, arrêtant six suspects.
Ayant pour but de monétiser le trafic sur les plateformes en ligne, le gang criminel a mis en place une méthode criminelle soigneusement élaborée : recruter des employés à temps partiel pour créer des comptes de médias sociaux et utiliser des outils d'IA pour réécrire rapidement des articles populaires, publiant ainsi en masse de fausses informations. Selon les statistiques, le gang a publié plus de 500 000 articles et images pour attirer du trafic, causant une grave pollution de l'information en ligne.
Légende : Image générée par IA, fournie par Midjourney.
L'enquête a révélé que les criminels pouvaient facilement accéder à divers outils d'écriture IA. Ces outils offrent de nombreuses fonctionnalités, permettant non seulement de générer rapidement des articles pour les comptes publics, des scripts vidéo et des publications pour les médias sociaux, mais aussi de poursuivre la rédaction d'articles, de modifier du contenu et de générer des images. Ce qui est choquant, c'est que certains abonnements sont extrêmement bon marché, à seulement 99 yuans par mois, avec une réduction de 50 % pour l'abonnement annuel.
Fang Yu, expert à la China Computer Society, souligne que le coût de production de rumeurs par les criminels utilisant des outils d'IA est devenu extrêmement faible. Avec l'open source des algorithmes de grands modèles et la maturité croissante de la technologie de l'IA, le seuil d'accès et d'utilisation de ces outils par les criminels est en constante baisse.
Ce cas met non seulement en lumière les risques importants de mauvaise utilisation de la technologie de l'IA, mais souligne également l'urgence de lutter contre la propagation de fausses informations en ligne et de préserver l'ordre de l'information en ligne. Le succès de l'opération de police fournit un exemple puissant pour endiguer la criminalité liée à l'IA.
