À l'ère du développement technologique fulgurant, la technologie de substitution faciale par IA, Deepfake, n'est plus l'apanage des films de science-fiction ; elle s'est discrètement invitée dans nos vies. Récemment, une vidéo en direct de Musk, d'un réalisme saisissant, a fait grand bruit sur Internet, attirant des dizaines de milliers d'internautes et suscitant un large débat sur le potentiel et les risques de cette technologie.
Il ne s'agissait pas du véritable Musk, mais d'une prouesse de la technologie de substitution faciale par IA. Grâce à Deepfake, une simple photo de Musk suffit à créer une vidéo en direct d'un réalisme incroyable. Le « Musk » de la vidéo gesticulait, interagissait même en direct avec les internautes, un niveau de réalisme bluffant.
L'application de la technologie de substitution faciale par IA ne se limite pas aux diffusions en direct. Sur les réseaux sociaux, un faux compte TikTok de Musk a également fait sensation. La vidéo présentait un « Musk » chantant dans sa voiture après le travail, recommandant astucieusement sa Tesla, avec un nombre impressionnant de likes et de favoris, rendant difficilement contestable son authenticité.
Cependant, avec la maturité croissante de la technologie Deepfake, les risques qu'elle présente ne sont pas à négliger. Une Américaine de 82 ans a ainsi perdu plus de 690 000 $ de sa retraite en croyant à une vidéo de promotion d'investissement de Musk créée par IA. Cet événement illustre l'évolution des techniques d'escroquerie téléphonique et nous rappelle la nécessité d'une plus grande prudence quant à l'utilisation de ce type de technologie.
Actuellement, la technologie Deepfake a obtenu plus de 30 000 étoiles sur GitHub, témoignant de son intérêt et de son potentiel d'application considérables. Néanmoins, certaines plateformes commencent à prendre des mesures pour lutter contre la prolifération des vidéos deepfakes. YouTube, par exemple, exige des créateurs qu'ils divulguent l'utilisation ou non de technologies d'IA et interdit les vidéos frauduleuses et falsifiées.
Le développement de la technologie de substitution faciale par IA offre sans aucun doute de nouvelles possibilités aux industries du divertissement et de la création, mais il exige également une plus grande acuité de notre capacité de discernement et de notre conscience sécuritaire. En cette ère numérique où le vrai et le faux sont difficiles à distinguer, nous devons rester vigilants pour garantir que le progrès technologique ne devienne pas un outil pour les malfaiteurs. Avec le développement et l'amélioration continus de la technologie, nous espérons un avenir plus intelligent et plus sûr.
Références :
https://x.com/AISafetyMemes/status/1828311798057181461
https://x.com/julesterpak/status/1828133599088165345
