En septembre 2023, la technologie de l'IA a entraîné une augmentation spectaculaire du nombre d'utilisateurs d'applications de deepfakes à caractère pornographique, atteignant 24 millions de personnes. La publicité sur les médias sociaux a contribué à une croissance de 2400 %, suscitant de vives inquiétudes. Avec l'évolution de la technologie, les personnes ordinaires deviennent des cibles, soulevant des questions juridiques importantes. Certaines plateformes, telles que TikTok et Meta Platforms, ont déjà mis en place des mesures telles que le blocage de mots clés.