Outro grande destaque do MiniCPM-Llama3-V2.5 é sua eficiência energética. Ao ser executado em dispositivos móveis, requer apenas 8 GB de VRAM, e em conjunto com uma placa de vídeo NVIDIA GeForce RTX4070, permite inferência rápida e velocidade de execução extremamente alta. Além disso, a velocidade de codificação de imagens foi aprimorada em 150 vezes, sendo a primeira vez que se consegue aceleração multimodal de nível de sistema em dispositivos móveis. Ainda mais impressionante é o suporte a mais de 30 idiomas, oferecendo suporte robusto para ambientes multilínguas.

A Yuanxiang anuncia o lançamento do modelo de linguagem de grande porte de alto desempenho XVERSE-65B-Chat, disponível para uso comercial gratuito e irrestrito. O XVERSE-65B ocupa o primeiro lugar entre os modelos de código aberto domésticos no SuperCLUE, um benchmark abrangente para modelos de linguagem de grande porte em chinês. O XVERSE-65B apresenta capacidades aprimoradas de compreensão, geração, raciocínio e memória, permitindo que ele lide com tarefas mais diversas e desafiadoras. A Yuanxiang lançou modelos de linguagem de grande porte com 7 bilhões, 13 bilhões e 65 bilhões de parâmetros, sendo o XVERSE um deles.

A DeepSeek lançou um modelo de linguagem grande de 67B, chamado DeepSeekLLM67B. Este modelo é totalmente de código aberto e pode ser acessado através do chat.deepseek.com. O DeepSeekLLM67B teve um bom desempenho em benchmarks públicos, mostrando-se excelente em raciocínio, matemática e programação. A DeepSeek também lançou modelos de 7B e 67B, além de 9 checkpoints do treinamento.

A OrionStar lançou o modelo OrionStar-Yi-34B-Chat, baseado no código aberto da Lingyi Wanwu, com uso comercial gratuito. Este modelo apresenta excelente desempenho nos benchmarks de avaliação em chinês C-Eval e C-MMLU. O OrionStar-Yi-34B-Chat é uma das excelentes alternativas de código aberto ao ChatGPT. O modelo oferece as vantagens de alto desempenho, código totalmente aberto e uso comercial gratuito. A OrionStar é um fornecedor de soluções de serviço de inteligência artificial, com produtos principais...

O modelo de linguagem grande XVERSE-7B da Yuanxiang, com 7 bilhões de parâmetros, é totalmente de código aberto e seu uso comercial é gratuito. Ele suporta mais de 40 idiomas e pode ser executado em uma única placa gráfica de consumo. Após a quantização de inferência, ele requer apenas 6 GB de memória de vídeo.