Con la comercialización de la inteligencia artificial generativa, la cantidad de contenido falso en línea ha aumentado drásticamente. Según datos de la plataforma de verificación de identidad Sumsub, la cantidad de deepfakes a nivel mundial se cuadruplicó entre 2023 y 2024. En 2024, los deepfakes representaron el 7% de todos los fraudes, involucrando diversas formas, desde suplantación de identidad y usurpación de cuentas hasta complejas actividades de ingeniería social.
Para abordar este problema, Meta lanzó una nueva herramienta, Meta Video Seal, diseñada para combatir los deepfakes mediante la incorporación de marcas de agua indetectables en videos generados por IA. Esta herramienta, lanzada como código abierto el jueves, está diseñada para facilitar su integración en software existente y complementa otras herramientas de marca de agua lanzadas previamente por Meta, como Watermark Anything y Audio Seal.
Pierre Fernandez, investigador científico de inteligencia artificial de Meta, declaró en una entrevista: "Desarrollamos Video Seal con el objetivo de ofrecer una solución de marca de agua de video más eficaz, especialmente para detectar videos generados por inteligencia artificial y proteger la originalidad".
Aunque Video Seal no es la primera tecnología de marca de agua de video propuesta, con SynthID de DeepMind y los métodos de marca de agua de Microsoft ya presentes en el mercado, Fernandez señala algunas deficiencias en las herramientas de marca de agua existentes. Afirma: "Si bien existen otras herramientas de marca de agua, su eficacia disminuye después de la compresión de video, un proceso muy común en la difusión de contenido en plataformas sociales; algunos métodos también son ineficientes, no son de código abierto o no se pueden replicar; además, muchos métodos provienen de marcas de agua para imágenes, pero estas no son adecuadas para videos".
Además de la función de marca de agua, Video Seal puede incrustar información oculta en el video, que luego puede utilizarse para rastrear el origen del video. Meta afirma que Video Seal resiste eficazmente técnicas de edición comunes como el desenfoque y el recorte, así como algoritmos de compresión habituales.
Sin embargo, Fernandez también admite ciertas limitaciones de Video Seal, especialmente en el equilibrio entre la detectabilidad de la marca de agua y su resistencia a la manipulación. Señala que la compresión excesiva y la edición extensa pueden dañar la marca de agua o hacerla irrecuperable.
Un desafío mayor para Meta es la falta de incentivos para que los desarrolladores y profesionales del sector utilicen Video Seal, especialmente aquellos que ya utilizan otras soluciones propietarias. Para ello, Meta lanzó una clasificación pública llamada Meta Omni Seal Bench para comparar el rendimiento de diferentes tecnologías de marca de agua, y organizará un taller sobre tecnologías de marca de agua en la principal conferencia de IA ICLR de este año.
Fernandez afirma: "Esperamos que cada vez más investigadores y desarrolladores de IA integren algún tipo de tecnología de marca de agua en su trabajo, y esperamos colaborar con la industria y el mundo académico para impulsar un desarrollo más rápido en este campo".
