Ex-aluno da turma de Yao da Tsinghua, Ma Tengyu, funda a Voyage, modelo de embedding supera a OpenAI

站长之家

Publicado emNotícias e Informações de IA · 1 minutos de leitura · Nov 1, 2023

110

O ex-aluno da classe Yao da Universidade Tsinghua, Ma Tengyu, anunciou o lançamento da Voyage, um modelo embutido que supera a OpenAI no conjunto de dados MTEB, enfatizando a alta precisão de recuperação sem a necessidade de anotação manual. A Voyage oferece versões padrão e leve, e futuras versões incluem uma versão em escala XL e uma versão para o setor financeiro.

Jieyue Xingchen e a Zhiyuan Robotics firmam parceria para explorar aplicações de modelos grandes + robôs corporificados

A Shanghai Jieyue Xingchen Intelligent Technology Co., Ltd. e a Zhiyuan Robotics assinaram oficialmente um acordo de cooperação estratégica profunda. As duas partes irão colaborar em profundidade nas áreas de modelos básicos e desenvolvimento de robôs, explorando conjuntamente os avanços tecnológicos e a inovação de aplicativos de "modelos grandes + robôs corporificados". Esta parceria envolve o desenvolvimento de tecnologia de modelos de mundo, cooperação de dados na área de inteligência corporificada e implementação em cenários de aplicativos como varejo, com o objetivo de impulsionar a aplicação em larga escala da tecnologia de inteligência corporificada em áreas como serviços domésticos, varejo e manufatura inteligente.

Inferência de texto longo de modelos grandes recebe aumento de velocidade exponencial! A estrutura APB da Tsinghua acelera em 10 vezes, Flash Attention é superado

Ainda está se desesperando com a lentidão no processamento de textos longos por modelos grandes? Não se preocupe! A Universidade Tsinghua apresenta uma tecnologia revolucionária — a estrutura de inferência APB paralela em sequência, que adiciona um motor de turbocompressão aos modelos grandes! Testes mostraram que esta tecnologia de ponta é até 10 vezes mais rápida que o Flash Attention no processamento de textos extremamente longos! Isso mesmo, 10 vezes! Com o sucesso do ChatGPT e outros modelos grandes, a capacidade de 'leitura' da IA também aumentou significativamente, lidando facilmente com textos de centenas de milhares de palavras. No entanto, o desafio...

Eficiência de modelos grandes em alta: tecnologia COMET do ByteDance é open-source, acelerando em 1,7 vezes

A equipe do modelo Doubao da ByteDance anunciou recentemente que conseguiu superar os gargalos críticos da arquitetura do modelo de especialista misto (MoE) e lançou uma tecnologia de otimização importante chamada COMET. Essa tecnologia melhora significativamente a eficiência do treinamento de modelos grandes, resultando em um aumento de eficiência de até 1,7 vezes e reduzindo os custos de treinamento em 40%. Nota sobre a imagem: imagem gerada por IA, provedor de serviços de licenciamento de imagens Midjourney. De acordo com a apresentação, a tecnologia COMET já foi aplicada no treinamento de clusters de dez mil GPUs na ByteDance, economizando milhões de GPUs.

Notícias e Informações de IA

Ex-aluno da turma de Yao da Tsinghua, Ma Tengyu, funda a Voyage, modelo de embedding supera a OpenAI

站长之家

Notícias de IA Relacionadas Recomendadas

Jieyue Xingchen e a Zhiyuan Robotics firmam parceria para explorar aplicações de modelos grandes + robôs corporificados

Inferência de texto longo de modelos grandes recebe aumento de velocidade exponencial! A estrutura APB da Tsinghua acelera em 10 vezes, Flash Attention é superado

iFlytek entra na corrida do desenvolvimento de modelos grandes com sucesso graças a placas de computação nacionais

Eficiência de modelos grandes em alta: tecnologia COMET do ByteDance é open-source, acelerando em 1,7 vezes