Avec la commercialisation de l'intelligence artificielle générative, la quantité de faux contenus en ligne augmente considérablement. Selon Sumsub, une plateforme d'authentification, le nombre de deepfakes dans le monde a quadruplé entre 2023 et 2024. En 2024, les deepfakes représentaient 7 % de toutes les fraudes, allant de l'usurpation d'identité et du piratage de compte à des opérations complexes d'ingénierie sociale.
Pour faire face à ce problème, Meta a lancé un nouvel outil, Meta Video Seal, visant à lutter contre les deepfakes en intégrant un filigrane imperceptible aux vidéos générées par l'IA. Cet outil, publié en open source jeudi, est conçu pour une intégration facile dans les logiciels existants et complète les outils de filigrane précédents de Meta, Watermark Anything et Audio Seal.
Pierre Fernandez, chercheur en intelligence artificielle chez Meta, a déclaré lors d'une interview : « Nous avons développé Video Seal pour fournir une solution de filigrane vidéo plus efficace, en particulier pour détecter les vidéos générées par l'IA et protéger l'originalité. »
Bien que Video Seal ne soit pas la première technologie de filigrane vidéo proposée (SynthID de DeepMind et la méthode de filigrane de Microsoft sont également disponibles sur le marché), Fernandez souligne les lacunes des outils de filigrane existants. Il explique : « Bien qu'il existe d'autres outils de filigrane, leur efficacité diminue après la compression vidéo, très fréquente sur les plateformes de médias sociaux ; certaines méthodes sont également moins performantes, non ouvertes ou non reproductibles ; enfin, de nombreuses méthodes proviennent du filigrane d'images, qui ne convient pas aux vidéos. »
En plus de la fonction de filigrane, Video Seal permet d'intégrer des informations cachées dans la vidéo, permettant de retracer ultérieurement son origine. Meta affirme que Video Seal résiste efficacement au floutage, au rognage et aux algorithmes de compression courants.
Cependant, Fernandez reconnaît les limites de Video Seal, notamment le compromis entre la visibilité du filigrane et sa résistance à la falsification. Il souligne qu'une compression excessive et des modifications importantes peuvent détruire le filigrane ou le rendre irrécupérable.
Le plus grand défi pour Meta est le manque d'incitation pour les développeurs et les professionnels du secteur à utiliser Video Seal, notamment ceux qui utilisent déjà d'autres solutions propriétaires. Pour y remédier, Meta a lancé un classement public, Meta Omni Seal Bench, pour comparer les performances des différentes technologies de filigrane, et organisera un atelier sur les techniques de filigrane lors de la principale conférence IA ICLR de cette année.
Fernandez déclare : « Nous espérons que de plus en plus de chercheurs et de développeurs en IA intégreront une forme de technologie de filigrane à leur travail, et nous souhaitons collaborer avec l'industrie et le monde universitaire pour accélérer le développement de ce domaine. »
