W.A.L.T. es un método de generación de vídeo realista basado en transformadores. Al comprimir conjuntamente imágenes y vídeos en un espacio latente unificado, permite el entrenamiento y la generación de modelos multimodales. Emplea un mecanismo de atención por ventanas para mejorar la eficiencia de la memoria y el entrenamiento. Este método ha logrado un rendimiento de vanguardia en varias pruebas de referencia de generación de imágenes y vídeos.