Con el rápido desarrollo de la inteligencia artificial, los videos generados por IA se vuelven cada vez más realistas, lo que genera graves riesgos para la seguridad social. Recientemente, un fraude de 25 millones de dólares utilizó videos realistas creados con IA. Para abordar este desafío, un equipo de investigación de la Universidad de Columbia ha desarrollado una herramienta innovadora llamada DIVID (DIffusion-generated VIdeo Detector), diseñada para detectar videos generados por IA.
Las principales ventajas de DIVID son:
1. Orientado a la nueva generación de IA: Diseñado específicamente para detectar videos generados por modelos de difusión, como los producidos por herramientas como Sora de OpenAI, Runway Gen-2 y Pika.
2. Innovación tecnológica: Emplea la tecnología DIRE (Diffusion Reconstruction Error), que compara las diferencias entre un video de entrada y la salida reconstruida de un modelo de difusión preentrenado para identificar contenido generado por IA.
3. Basado en el éxito previo: DIVID es una extensión de Raidar, la herramienta de detección de texto desarrollada previamente por el equipo, expandiendo la detección de IA desde el texto al video.
4. Código abierto: El equipo de investigación ha publicado el código fuente y los conjuntos de datos, lo que promueve el desarrollo y la aplicación de esta tecnología.
La aparición de DIVID marca un importante avance en la tecnología de detección de contenido de IA. Con la creciente aplicación de videos generados por IA en las redes sociales, las noticias y el comercio, la importancia de estas herramientas de detección se hace cada vez más evidente. No solo ayuda a combatir el fraude y la difusión de información falsa, sino que también ofrece nuevas posibilidades para mantener la autenticidad y la credibilidad del mundo digital.
