A empresa de inteligência artificial, Mianbi, lançou recentemente o MiniCPM3.0, um modelo de IA de alto desempenho que pode ser executado em dispositivos com apenas 2 GB de memória RAM, marcando uma nova era para a experiência de IA no dispositivo.
O modelo MiniCPM3.0 possui 4 bilhões de parâmetros e supera o GPT-3.5 em desempenho, permitindo que serviços de IA com qualidade comparável ao GPT-3.5 sejam executados em dispositivos móveis. Isso permite que os usuários aproveitem serviços de IA locais rápidos, seguros e ricos em recursos sem depender do processamento em nuvem, garantindo uma experiência de interação inteligente mais suave e privada.
As características do MiniCPM3.0 incluem a capacidade de processar textos de comprimento ilimitado, o melhor desempenho de chamada de função no dispositivo e a poderosa função RAG (Recuperação Aumentada por Geração). Esses recursos tornam o MiniCPM3.0 significativamente superior no processamento de textos longos, execução de instruções estruturadas e fornecimento de informações precisas.
Li Dahai, CEO da Mianbi, afirmou que o lançamento do MiniCPM3.0 representa um grande avanço na tecnologia de IA para dispositivos, impulsionando a implementação de grandes modelos de IA em aplicações reais e oferecendo aos usuários uma experiência inteligente mais rica e conveniente.
Espera-se que, em breve, mais produtos equipados com o modelo MiniCPM3.0 sejam lançados, promovendo ainda mais a popularização e aplicação da tecnologia de IA.
Endereço do código aberto do MiniCPM3.0:
https://github.com/OpenBMB/MiniCPM
https://huggingface.co/openbmb/MiniCPM3-4B