Les deepfakes, l'une des formes d'intelligence artificielle (IA) antagoniste connaissant la croissance la plus rapide, devraient entraîner des pertes passant de 123 milliards de dollars en 2023 à 400 milliards de dollars en 2027, soit un taux de croissance annuel composé stupéfiant de 32 %. Deloitte prévoit une augmentation fulgurante des deepfakes dans les années à venir, les banques et les services financiers étant les principales cibles.
Les deepfakes représentent l'avant-garde des attaques d'IA antagoniste, ayant augmenté de 3 000 % l'année dernière seulement. On prévoit une augmentation de 50 à 60 % des incidents liés aux deepfakes d'ici 2024, avec un nombre estimé entre 140 000 et 150 000 cas dans le monde cette année.
La dernière génération d'applications, d'outils et de plateformes d'IA générative fournit aux attaquants tout ce dont ils ont besoin pour créer rapidement et à faible coût des vidéos deepfakes, des imitations vocales et des documents frauduleux. Le rapport 2024 sur le renseignement vocal et la sécurité de Pindrops estime que les pertes annuelles dues aux fraudes par deepfakes ciblant les centres de contact sont estimées à 5 milliards de dollars. Leur rapport souligne la menace sérieuse que représentent les deepfakes pour les banques et les services financiers.
Bloomberg a rapporté l'année dernière qu'« un véritable artisanat s'est développé sur le dark web, vendant des logiciels frauduleux à des prix allant de 20 dollars à plusieurs milliers de dollars ». Récemment, une infographie du rapport 2023 sur la fraude d'identité basé sur Sumsub a fourni une perspective mondiale sur la croissance rapide des fraudes liées à l'IA.
Un tiers des entreprises n'ont pas de stratégie pour faire face aux risques liés aux attaques d'IA antagoniste, attaques qui sont le plus susceptibles de commencer par des deepfakes de leurs dirigeants clés. Une récente étude d'Ivanti a révélé que 30 % des entreprises ne disposent pas de plan pour identifier et se défendre contre les attaques d'IA antagoniste.
Le rapport 2024 sur l'état de la cybersécurité d'Ivanti a révélé que 74 % des entreprises interrogées ont déjà constaté des preuves de menaces liées à l'IA. La grande majorité (89 %) estime que les menaces liées à l'IA ne font que commencer. Parmi la plupart des responsables de la sécurité de l'information (RSSI), des directeurs informatiques (CIO) et des responsables informatiques interrogés par Ivanti, 60 % craignent que leur entreprise ne soit pas préparée à se défendre contre les menaces et les attaques liées à l'IA. L'utilisation de deepfakes dans le cadre de stratégies soigneusement orchestrées, incluant le phishing, les failles logicielles, les rançongiciels et les failles liées aux API, devient de plus en plus courante. Ceci est conforme aux menaces que les spécialistes de la sécurité prévoient comme étant plus dangereuses grâce à la nouvelle génération d'IA.
