Auf der jüngsten Videocloud-Technologiekonferenz von Volcano Engine wurde eine wichtige Innovation vorgestellt: eine Lösung zur Vorverarbeitung von Videos für das Training großer Sprachmodelle. Diese Technologie wurde bereits erfolgreich in das Doubao-Videogenerierungsmodell integriert und markiert einen bedeutenden Fortschritt in der KI-Videogenerierung. Tan Dai, Präsident von Volcano Engine, betonte, dass AIGC und multimodale Technologien das Benutzererlebnis tiefgreifend verändern. Basierend auf den Erfahrungen mit Douyin erforscht Volcano Engine aktiv die Integration von KI-Großmodellen und Videotechnologien, um Unternehmen umfassende Lösungen anzubieten. Wang Yue, Leiter der Videoarchitektur der Douyin-Gruppe, wies darauf hin, dass das Training großer Sprachmodelle vor zahlreichen Herausforderungen steht.

Auf der Volcano Engine AI Innovation Tour 2024 enthüllte Volcano Engine Präsident Tan das neueste Doubao-Videogenerierungsmodell. Das Modell verfügt über mehrere fortschrittliche Technologien, darunter eine hocheffiziente DIT-Fusion Computing Unit, die eine tiefe Komprimierungscodierung von Video und Text ermöglicht. Gleichzeitig verwendet es eine völlig neue Methode zum Trainieren von Diffusionsmodellen, um die Konsistenz bei der Generierung von Videos mit mehreren Kameras zu gewährleisten. Darüber hinaus integriert das Modell eine tief optimierte Transformer-Struktur, die die Generalisierungsfähigkeit der Videogenerierung deutlich verbessert.

Das Shanghaier KI-Labor veröffentlicht XTuner, ein Toolkit für das Training großer Modelle, das die Kompatibilität mit verschiedenen Hardware-Plattformen unterstützt und die Kosten für das Training erheblich senkt. XTuner unterstützt die Anpassung an verschiedene Open-Source-Großmodelle und ermöglicht Aufgaben wie inkrementelles Pretraining und Instruction Tuning. XTuner vereint Benutzerfreundlichkeit und Konfigurierbarkeit und verfügt über standardisierte Workflows für den einfachen Start des Trainings.

Daten als neuer Produktionsfaktor bilden eine Datenindustrie. Das Training großer Sprachmodelle erfordert riesige Mengen hochwertiger Daten, die als einer der Kernwettbewerbsvorteile zukünftiger Unternehmen im Bereich großer Sprachmodelle gelten. Die Abrechnung und der Handel mit Daten stehen vor vielen Herausforderungen, wie z. B. Rechtevergabe und Sicherheitsmanagement.