Volcano Engine lança solução de pré-processamento de vídeo para treinamento de modelos grandes, já adotada pela Doubao

AIbase基地

Publicado emNotícias e Informações de IA · 4 minutos de leitura · Oct 15, 2024

198

Na recente conferência de tecnologia de nuvem de vídeo, a Volcano Engine lançou uma inovação importante: uma solução de pré-processamento de vídeo para treinamento de modelos grandes. Essa tecnologia já foi aplicada com sucesso ao modelo de geração de vídeo Doubao, marcando um avanço significativo na tecnologia de geração de vídeo de IA.

O presidente da Volcano Engine, Tan Dai, enfatizou que a AIGC e a tecnologia multimodal estão mudando profundamente a experiência do usuário. Com base na experiência prática do Douyin, a Volcano Engine está explorando ativamente a integração de modelos grandes de IA com tecnologia de vídeo, fornecendo soluções abrangentes para empresas.

Wang Yue, chefe de arquitetura de vídeo do grupo Douyin, apontou que o treinamento de modelos grandes enfrenta muitos desafios, incluindo altos custos de processamento de grandes quantidades de dados, qualidade inconsistente das amostras, complexidade da cadeia de processamento e problemas de alocação de vários recursos de computação heterogêneos.

Para enfrentar esses desafios, a solução de pré-processamento desenvolvida pela Volcano Engine é baseada no framework de processamento multimídia autodesenvolvido BMF e utiliza os diversos recursos de computação da Intel. Essa solução foi otimizada em termos de algoritmo e engenharia, podendo processar eficientemente grandes quantidades de dados de vídeo e melhorar significativamente a eficiência do treinamento do modelo.

Além disso, a Volcano Engine também lançou em código aberto a versão lite do BMF, uma solução de pós-processamento para dispositivos móveis, que suporta a integração de modelos grandes em dispositivos móveis e aceleração de operadores, sendo mais leve e versátil.

Vale ressaltar que o modelo de geração de vídeo Doubao PixelDance, lançado em 24 de setembro, já utiliza essa solução tecnológica. Esse modelo emprega a arquitetura DiT, superando os desafios de interação complexa de movimentos de múltiplos sujeitos e consistência de conteúdo em múltiplas mudanças de câmera. Atualmente, o modelo de geração de vídeo Doubao está disponível para testes beta para empresas através da Volcano Engine.

Otimizador "Budismo" C-AdamW: Uma linha de código acelera o treinamento de modelos grandes em 1,47 vezes!

No mundo da IA, 'força bruta resolve tudo' parece ser a regra de ouro. Modelos maiores, mais dados, maior poder computacional, tudo isso parece aproximar-nos do santo graal da inteligência. No entanto, por trás desse progresso veloz, escondem-se custos e pressão de consumo de energia significativos. Para tornar o treinamento de IA mais eficiente, os cientistas têm procurado otimizadores mais poderosos, como um treinador que guia os parâmetros do modelo para uma otimização contínua, atingindo finalmente o estado ideal. O AdamW, como otimizador padrão para pré-treinamento Transformer, tem sido um padrão na indústria por anos,

Tülu 3, solução de treinamento de código aberto da AI2, quebra o monopólio da tecnologia de pós-treinamento de modelos grandes

Na área de IA de código aberto, a diferença em relação às grandes empresas de tecnologia não se limita apenas à capacidade de computação. A AI2 (anteriormente Allen Institute for Artificial Intelligence) está reduzindo essa lacuna por meio de uma série de iniciativas inovadoras. Sua solução de pós-treinamento Tülu3, recém-lançada, torna acessível a transformação de modelos de linguagem grandes 'brutos' em sistemas de IA práticos. Ao contrário da crença popular, os modelos de linguagem básicos não estão prontos para uso direto após o pré-treinamento. Na verdade, o processo de pós-treinamento é o elemento crucial que determina o valor final do modelo. É nessa fase que o modelo se transforma de um modelo 'onipresente'...

ByteDance lança HybridFlow, ferramenta open source que aumenta a velocidade de treinamento de modelos grandes em 20 vezes e reduz custos drasticamente!

Modelos de linguagem grandes (LLMs), como GPT e Llama, revolucionaram o campo da inteligência artificial. No entanto, treinar esses modelos imensos de forma eficiente e alinhá-los com os valores humanos continua sendo um desafio. O aprendizado por reforço com feedback humano (RLHF) é um método importante de treinamento de LLM amplamente utilizado, mas os frameworks tradicionais de RLHF têm limitações em flexibilidade, eficiência e escalabilidade. Para resolver esses problemas, a equipe de modelos de linguagem grandes Doubao da ByteDance lançou o framework RLHF chamado HybridFlow, um projeto open source que...

Equipe de Pesquisa da Apple revela a tecnologia WRAP: Pré-treinamento de modelos grandes com dados sintéticos, baixo custo e alta precisão

'Modelos de linguagem grandes têm chamado a atenção da comunidade de IA, demonstrando capacidades impressionantes.' 'A equipe de pesquisa da Apple revela a tecnologia WRAP para pré-treinamento de modelos grandes com dados sintéticos.' 'O WRAP melhora o desempenho do modelo, reformula documentos da web e aprimora os resultados do pré-treinamento.' 'O uso de dados sintéticos de alta qualidade acelera o treinamento, melhora o desempenho geral e abre novas possibilidades.'