Con el rápido desarrollo de la inteligencia artificial, la capacidad de generar y detectar contenido deepfake se convertirá en un desafío social importante. Estudios recientes indican que las técnicas de marca de agua digital ampliamente utilizadas son fácilmente eludibles, y que la prevención de deepfakes de IA en el futuro seguirá siendo muy difícil.
Un equipo de investigación ha demostrado con éxito la vulnerabilidad de las medidas de protección actuales basadas en marcas de agua, advirtiendo sobre los amplios daños que podría causar el mal uso de la IA y la necesidad de una alta vigilancia. A pesar de las dificultades actuales, el diseño de sistemas de marca de agua digital fiables no es una tarea imposible.
Expertos de diversos sectores instan a una mayor colaboración entre la industria y los gobiernos en la prevención de deepfakes de IA, así como al uso prudente de las nuevas tecnologías para reducir los riesgos potenciales.
