Laut dem von Qi'anxin Group veröffentlichten Bericht „2024 AI Security Report“ ist die Zahl der KI-basierten Deepfake-Betrügereien im Jahr 2023 um 3000 % gestiegen, gleichzeitig verzeichnete man einen Anstieg von KI-basierten Phishing-E-Mails um 1000 %. Der Bericht weist darauf hin, dass mehrere staatlich unterstützte APT-Gruppen KI für über zehn Cyberangriffe eingesetzt haben. Es wird prognostiziert, dass der missbräuchliche Einsatz von KI-Technologien schnell zunehmen und eine Bedrohung für die Netzwerksicherheit, die physische Sicherheit und die militärische Sicherheit darstellen wird.