Hoy en día, los deepfakes están omnipresentes. Con la proliferación de la IA generativa, el contenido falso en internet está creciendo exponencialmente. Según la plataforma de verificación de identidad Sumsub, la cantidad de deepfakes en el mundo aumentó cuatro veces entre 2023 y 2024. En 2024, los deepfakes representaron el 7% de todos los fraudes, desde la suplantación de identidad y el robo de cuentas hasta complejos ataques de ingeniería social, todos ellos con la presencia de deepfakes.

Para combatir eficazmente los deepfakes, Meta ha lanzado recientemente una herramienta que puede agregar marcas de agua indetectables a los clips de video generados por IA. Esta herramienta, llamada Meta Video Seal, se anunció el jueves como de código abierto y está diseñada para integrarse en software existente. Junto con otras herramientas de marca de agua de Meta, Watermark Anything (relanzada hoy con una licencia permisiva) y Audio Seal, forma un conjunto completo de soluciones de marca de agua.

Metaverso de Facebook meta

Pierre Fernandez, investigador científico de Meta AI, declaró en una entrevista con TechCrunch: "Desarrollamos Video Seal para ofrecer una solución de marca de agua de video más efectiva, especialmente en la detección de videos generados por IA y la protección de la originalidad".

Video Seal no es la primera tecnología de este tipo. SynthID de DeepMind puede agregar marcas de agua a los videos, y Microsoft también tiene su propio método de marca de agua para videos.

Pero Fernandez considera que muchos métodos existentes tienen deficiencias.

"Si bien existen otras herramientas de marca de agua, su robustez frente a la compresión de video es insuficiente (la compresión de video es muy común cuando se comparten contenidos a través de plataformas sociales); su eficiencia de funcionamiento no es suficiente para su aplicación a gran escala; no son lo suficientemente abiertas o reproducibles; o provienen de marcas de agua para imágenes, que no son la mejor opción para videos", dijo Fernandez.

Además de la marca de agua, Video Seal también puede agregar mensajes ocultos al video para revelar su origen posteriormente. Meta afirma que Video Seal puede resistir las operaciones de edición comunes, como el desenfoque y el recorte, así como los algoritmos de compresión comunes.

Fernandez admite que Video Seal tiene ciertas limitaciones, principalmente la compensación entre la visibilidad de la marca de agua y su resistencia general a la manipulación. Agrega que la compresión de alta intensidad y las ediciones importantes pueden alterar la marca de agua o hacerla irrecuperable.

Por supuesto, el mayor problema que enfrenta Video Seal es que los desarrolladores y la industria no tienen muchos motivos para adoptarlo, especialmente las empresas que ya utilizan soluciones propietarias. Para abordar este problema, Meta está lanzando una clasificación pública, Meta Omni Seal Bench, específicamente para comparar el rendimiento de varios métodos de marca de agua. Además, Meta organizará un taller sobre marcas de agua en la Conferencia Internacional sobre Representaciones de Aprendizaje (ICLR) de este año, una importante conferencia de IA.

"Esperamos que cada vez más investigadores y desarrolladores de IA integren algún tipo de marca de agua en su trabajo", dijo Fernandez. "Esperamos colaborar con la industria y el mundo académico para impulsar este campo más rápidamente".

Esta iniciativa de Meta ofrece sin duda nuevas ideas para combatir la proliferación de deepfakes. El código abierto y la colaboración abierta pueden ser una forma eficaz de abordar este complejo problema. Sin embargo, el futuro de Video Seal dependerá de si la industria lo adopta y utiliza ampliamente, y de su capacidad para contrarrestar la continua evolución de los deepfakes.