Selon le rapport « Sécurité de l'intelligence artificielle 2024 » publié par Qi An Xin Group, les fraudes basées sur la deepfake IA ont augmenté de 3000 % en 2023, tandis que les e-mails de phishing basés sur l'IA ont augmenté de 1000 %. Le rapport souligne que plusieurs groupes APT soutenus par des États ont utilisé l'IA pour mener plus d'une dizaine de cyberattaques, et prédit une croissance rapide de l'utilisation malveillante de l'intelligence artificielle, menaçant la cybersécurité, la sécurité physique et la sécurité militaire.