作为目前发展最快的对抗性人工智能形式之一，深度伪造（Deepfakes ）相关的损失预计将从2023年的123亿美元飙升至2027年的400亿美元，复合年增长率将达到惊人的32%。德勤预计，未来几年深度造假将激增，银行和金融服务将成为主要目标。

​谷歌 DeepMind 首次进行了关于最常见的恶意 AI 应用的研究，结果显示生成虚假政治家和名人的人工智能（AI）“Deepfakes” 比用 AI 协助网络攻击的尝试更为普遍。这一研究是谷歌 AI 部门 DeepMind 和谷歌旗下的研发单位 Jigsaw 合作的，目的是量化生成 AI 工具的风险，这些工具已被全球最大的科技公司推向市场以寻求巨额利润。