Volcan Engine lance PixelDance, une solution de prétraitement vidéo pour l'entraînement de grands modèles

AIbase基地

Publié leActualités IA · 4 minutes de lecture · Oct 15, 2024

198

Lors du récent sommet sur la technologie du cloud vidéo, Bytedance a annoncé une innovation majeure : une solution de prétraitement vidéo pour l'entraînement de grands modèles. Cette technologie a déjà été appliquée avec succès au modèle de génération vidéo Doubao, marquant une avancée significative dans la technologie de génération de vidéos par IA.

Tan Dai, président de Bytedance, a souligné que l'AIGC et les technologies multimodales sont en train de transformer profondément l'expérience utilisateur. Fort de l'expérience pratique de Douyin, Bytedance explore activement l'intégration des grands modèles d'IA et des technologies vidéo pour offrir des solutions complètes aux entreprises.

Wang Yue, responsable de l'architecture vidéo du groupe Douyin, a indiqué que l'entraînement des grands modèles présente de nombreux défis, notamment : le coût élevé du traitement d'énormes quantités de données, la qualité inégale des échantillons, la complexité de la chaîne de traitement et les problèmes d'ordonnancement de diverses ressources de calcul hétérogènes.

Pour relever ces défis, la solution de prétraitement développée par Bytedance s'appuie sur son framework de traitement multimédia BMF et sur les ressources de calcul diversifiées d'Intel. Cette solution, optimisée aux niveaux algorithmique et ingénierie, permet de traiter efficacement d'énormes quantités de données vidéo et d'améliorer considérablement l'efficacité de l'entraînement des modèles.

De plus, Bytedance a également open-sourcé la version lite de BMF, une solution de post-traitement mobile, qui prend en charge l'intégration de grands modèles côté client et l'accélération des opérateurs, pour une solution plus légère et plus universelle.

Il est à noter que le modèle de génération vidéo Doubao PixelDance, lancé le 24 septembre, utilise déjà cette solution technique. Ce modèle, basé sur l'architecture DiT, surmonte les difficultés liées à l'interaction complexe des mouvements de plusieurs sujets et à la cohérence du contenu entre les différents plans. Actuellement, le modèle de génération vidéo Doubao est proposé en accès anticipé aux entreprises via Bytedance.

L'équipe de recherche d'Apple dévoile la technologie WRAP : pré-entraînement de grands modèles avec des données synthétiques, à faible coût et haute précision

Les grands modèles de langage suscitent un intérêt considérable au sein de la communauté de l'IA, démontrant des capacités impressionnantes. L'équipe de recherche d'Apple dévoile la technologie WRAP pour le pré-entraînement de grands modèles avec des données synthétiques. WRAP améliore les performances du modèle, réécrit les documents Web et améliore l'efficacité du pré-entraînement. L'utilisation de données synthétiques de haute qualité accélère l'entraînement, améliore les performances globales et ouvre de nouvelles voies.

ZTE lance un nouveau serveur IA pour l'entraînement de grands modèles

ZTE lance un nouveau serveur IA pour l'entraînement de grands modèles. Pour répondre aux besoins d'entraînement et d'inférence des modèles de petite et moyenne taille, ZTE lance la série de serveurs G5. ZTE prévoit de lancer cette année un nouveau serveur IA prenant en charge l'entraînement de grands modèles.

Le laboratoire IA de Shanghai publie XTuner, une boîte à outils d'entraînement de grands modèles, réduisant considérablement les coûts de formation

Le laboratoire IA de Shanghai publie XTuner, une boîte à outils d'entraînement de grands modèles prenant en charge l'adaptation à plusieurs types de matériel et réduisant considérablement le coût d'entraînement. XTuner est compatible avec plusieurs grands modèles open source et permet d'exécuter des tâches de pré-entraînement incrémental et d'ajustement des instructions. XTuner allie facilité d'utilisation et configurabilité, avec un processus standardisé intégré permettant de lancer l'entraînement en un clic.

淘天集团 et Ai Orange Technology mettent en open source le framework d'entraînement de grands modèles linguistiques Megatron-LLaMA

Le framework Megatron-LLaMA, mis en open source par le groupe Taobao et Ai Orange Technology, améliore les performances d'entraînement des grands modèles linguistiques, réduit les coûts de formation et assure la compatibilité avec la communauté LLaMA. Il permet une accélération de 176% lors de l'entraînement sur 32 cartes.