La police de Xiamen a récemment résolu une affaire impliquant la création de fausses vidéos à l'aide de la technologie de l'IA. Un homme, Ren Mou (32 ans, originaire du Hubei), a été arrêté pour avoir diffusé de fausses informations. Ren Mou a utilisé la génération automatique de faux contenus et d'images, puis la technologie de l'IA pour créer une vidéo, qu'il a ensuite publiée sur Toutiao, relatant une rumeur concernant un homme âgé du Guangdong qui aurait été battu et dont le petit-fils se serait suicidé en se jetant à la rivière. Cette vidéo a suscité une grande attention. Son but était d'augmenter le nombre de ses abonnés et le trafic pour en tirer profit. Ren Mou a admis que la création de vidéos à l'aide de la technologie de l'IA ne lui prenait que deux ou trois minutes. La police a pris des mesures coercitives à son encontre. Cet incident sert d'avertissement...

L'Institut de calcul intelligent d'Alibaba a lancé la technologie Animate Anyone, capable de transformer des images statiques en vidéos dynamiques extrêmement réalistes. Cette technologie améliore les systèmes de conversion image-vidéo et résout les problèmes d'hallucinations, mais présente encore des défis dans le traitement des mouvements des yeux et des mains. Bien que cette avancée technologique soit significative, elle suscite des inquiétudes quant à son utilisation abusive, car elle permet de créer de fausses vidéos à partir de photos personnelles, ce qui pourrait conduire à la propagation de fausses informations. L'équipe prépare activement le code pour une démonstration et une utilisation publique, mais craint les risques de désinformation liés à l'augmentation du nombre de fausses vidéos. L'internet est-il sur le point de connaître une vague de "faux montages vidéo" ?