Avec la popularisation des technologies de deepfakes, le nombre de contenus falsifiés sur internet a explosé. Selon Sumsub, une plateforme d'identification, le nombre de deepfakes a quadruplé entre 2023 et 2024, représentant 7 % de toutes les fraudes en 2024. Ces fraudes incluent diverses formes d'usurpation d'identité, de prise de contrôle de comptes et d'attaques sophistiquées d'ingénierie sociale.
Pour relever ce défi, Meta a récemment lancé un nouvel outil de filigrane, Meta Video Seal, destiné à ajouter des filigranes presque indétectables aux extraits vidéo générés par l'IA. Cet outil est open source et conçu pour s'intégrer parfaitement aux logiciels existants. Meta Video Seal vient compléter les autres outils de filigrane de Meta, tels que Watermark Anything et Audio Seal.
Pierre Fernandez, chercheur en IA chez Meta, a déclaré lors d'une interview accordée à TechCrunch : « Nous avons développé Video Seal pour fournir une solution de filigrane vidéo plus efficace, en particulier pour détecter les vidéos générées par l'IA et protéger l'originalité. »
Bien que Video Seal ne soit pas la première technologie de ce type (DeepMind et Microsoft disposent également de technologies de filigrane vidéo similaires), Fernandez estime que certaines solutions existantes présentent des lacunes. Il a souligné : « De nombreux outils de filigrane manquent de robustesse lors de la compression vidéo, ne peuvent pas être largement utilisés sur les plateformes sociales et manquent d'ouverture et de reproductibilité. »
En plus du filigrane, Video Seal peut ajouter des informations cachées à la vidéo afin d'identifier ultérieurement son origine. Meta affirme que l'outil résiste aux opérations d'édition courantes telles que le floutage et le recadrage, ainsi qu'aux algorithmes de compression populaires. Cependant, Fernandez reconnaît qu'il existe un compromis entre la perceptibilité du filigrane et la robustesse de la résistance aux manipulations. Une compression excessive et des modifications importantes peuvent affecter le filigrane, voire l'empêcher de être récupéré.
Bien sûr, le plus grand défi pour Video Seal est l'adoption potentiellement faible des développeurs et de l'industrie, en particulier pour les entreprises qui utilisent déjà des solutions propriétaires. Pour résoudre ce problème, Meta prévoit de lancer un classement public, Meta Omni Seal Bench, spécialement conçu pour comparer les performances des différentes méthodes de filigrane, et d'organiser un atelier sur les filigranes lors de la conférence ICLR de cette année.
Fernandez espère que de plus en plus de chercheurs et de développeurs en IA intégreront une forme de filigrane à leur travail, en collaboration avec l'industrie et le monde universitaire, pour faire progresser ce domaine.
Points clés :
🔍 L'outil Meta Video Seal de Meta permet d'ajouter des filigranes aux vidéos générées par l'IA, résistant aux modifications et à la compression.
📊 Cet outil est open source, conçu pour s'intégrer aux logiciels existants et vise à promouvoir le développement des technologies de filigrane dans l'industrie.
🏆 Meta lancera également un classement public pour comparer les différentes méthodes de filigrane, favorisant ainsi la coopération et les échanges au sein du secteur.
