La start-up d'intelligence artificielle Luma a récemment annoncé sur la plateforme X la publication en open source de sa technique de pré-entraînement de modèles d'images, baptisée Inductive Moment Matching (IMM). Cette technologie révolutionnaire, réputée pour son efficacité et sa stabilité, a suscité un vif intérêt et est considérée comme une avancée majeure dans le domaine de l'IA générative.
Selon l'utilisateur X linqi_zhou, IMM est un nouveau paradigme de génération capable d'entraîner un modèle unique et un seul objectif de manière stable à partir de zéro, tout en surpassant les méthodes traditionnelles en termes d'efficacité d'échantillonnage et de qualité des échantillons. Il a exprimé son enthousiasme dans un post : « IMM a atteint un FID (Fréchet Inception Distance) de 1,99 sur ImageNet256×256 en seulement 8 étapes, et de 1,98 sur CIFAR-10 en seulement 2 étapes. » Ces performances non seulement redéfinissent les normes du secteur, mais témoignent également d'un potentiel exceptionnel.
Comparé aux modèles de diffusion dominants, IMM améliore l'efficacité d'échantillonnage de plus de 10 fois tout en maintenant une qualité d'échantillon supérieure. L'utilisateur X op7418 a expliqué le principe technique : les modèles de diffusion traditionnels sont limités par l'inefficacité de l'interpolation linéaire et de la convergence en plusieurs étapes, tandis qu'IMM traite simultanément l'étape actuelle et l'étape cible lors de l'inférence, augmentant ainsi considérablement la flexibilité. Cette conception « priorité à l'inférence » permet au modèle de générer des images de haute qualité en moins d'étapes, brisant ainsi le goulot d'étranglement algorithmique des modèles de diffusion.
De plus, IMM surpasse les modèles de cohérence (Consistency Models) en termes de stabilité d'entraînement. op7418 a indiqué dans son post qu'IMM présente une robustesse supérieure face aux dynamiques d'entraînement instables souvent observées avec les modèles de cohérence, s'adaptant à une variété d'hyperparamètres et d'architectures de modèles. Cette caractéristique le rend plus fiable dans les applications réelles.
La décision de Luma de publier IMM en open source a été saluée par la communauté. FinanceYF5 a commenté sur X : « Luma Labs lance IMM, améliorant l'efficacité de la génération d'images de 10 fois par rapport aux méthodes existantes, cette méthode surmonte les limitations algorithmiques des modèles de diffusion ! » Il a également ajouté un lien vers une présentation technique, suscitant de plus amples discussions. Le code et les points de contrôle d'IMM sont disponibles publiquement sur GitHub, et les détails techniques sont expliqués en détail dans un article de recherche, reflétant la volonté de Luma de promouvoir l'ouverture de la recherche en IA.
Les données de performance d'IMM confirment sa position de leader. Sur l'ensemble de données ImageNet256×256, IMM surpasse les modèles de diffusion (2,27 FID) et Flow Matching (2,15 FID) avec un FID de 1,99, et réduit le nombre d'étapes d'échantillonnage de 30 fois ; sur CIFAR-10, son résultat en 2 étapes d'échantillonnage atteint 1,98 FID, établissant un nouveau record pour cet ensemble de données. op7418 a également mentionné que l'extensibilité du calcul d'IMM est excellente, les performances s'améliorant continuellement avec l'augmentation de la charge de calcul d'entraînement et d'inférence, jetant les bases d'applications à plus grande échelle à l'avenir.
Les experts du secteur estiment que la publication en open source d'IMM pourrait entraîner un changement de paradigme dans les technologies de génération d'images. Grâce à ses caractéristiques d'efficacité, de haute qualité et de stabilité, cette technologie pourrait non seulement être utilisée pour la génération d'images, mais également étendue aux domaines de la vidéo et du multimédia. L'équipe Luma a déclaré que ce n'était qu'une première étape vers des modèles de base multimodaux, et qu'elle espérait que IMM permettrait de débloquer davantage de possibilités d'intelligence créative.
Avec la publication d'IMM, la position de Luma dans la course mondiale à l'IA devient de plus en plus importante. Les vastes perspectives d'application de cette technologie et son impact révolutionnaire sur les modèles existants devraient continuer à susciter des débats animés dans les mois à venir.