Na área de inteligência artificial em rápido desenvolvimento, a Cohere lançou recentemente seu mais novo modelo, o Command R7B, marcando mais um passo importante da empresa na entrega de soluções eficientes para empresas. Como o menor e mais rápido modelo da série R, o Command R7B concentra-se em apoiar o desenvolvimento e a iteração rápida de protótipos, utilizando a tecnologia de geração aprimorada por recuperação (RAG), o que melhora a precisão do modelo.
O Command R7B possui um comprimento de contexto de 128K e suporta 23 idiomas, o que demonstra sua capacidade em processamento multilíngue e aplicações em diferentes áreas. A Cohere afirma que o Command R7B supera modelos similares em tarefas de matemática e codificação, incluindo o Gemma do Google, o Llama do Meta e o Ministral do Mistral. Segundo a Cohere, o modelo é ideal para desenvolvedores e empresas que precisam otimizar velocidade, custo e recursos computacionais.
No último ano, a Cohere tem melhorado e atualizado continuamente seus modelos para aumentar a velocidade e a eficiência. O Command R7B é considerado o modelo "final" da série R, e os pesos do modelo serão disponibilizados para a comunidade de pesquisa em IA no futuro. A Cohere destaca que o Command R7B apresenta uma melhoria significativa no desempenho em matemática, raciocínio, codificação e tradução, o que o coloca entre os principais modelos no ranking de LLMs abertos do HuggingFace.
Além disso, o Command R7B apresenta um desempenho excepcional em agentes de IA, uso de ferramentas e RAG, o que melhora a precisão da saída do modelo. A Cohere afirma que o modelo se destaca em tarefas de diálogo em gestão de riscos empresariais, suporte técnico, atendimento ao cliente e processamento de dados financeiros, especialmente na recuperação e manipulação de informações de dados.
O Command R7B pode expandir suas funcionalidades utilizando ferramentas como mecanismos de busca, APIs e bancos de dados vetoriais. Gomez aponta que isso demonstra a eficácia do modelo em "ambientes reais, diversos e dinâmicos", eliminando funcionalidades de chamada desnecessárias, tornando-o ideal para construir agentes de IA "rápidos e poderosos". A flexibilidade do modelo permite sua implantação em CPUs, GPUs e MacBooks de baixo custo e de consumo, possibilitando o raciocínio no dispositivo.
Atualmente, o Command R7B está disponível na plataforma Cohere e no HuggingFace, com preço de US$ 0,0375 por milhão de tokens de entrada e US$ 0,15 por token de saída. Gomez conclui que esta é a opção ideal para empresas que buscam modelos econômicos e baseados em documentos e dados internos.
Blog: https://cohere.com/blog/command-r7b
Destaques:
🌟 O Command R7B é o modelo mais recente da Cohere, projetado para prototipagem e iteração rápidas.
📈 O modelo supera vários concorrentes em tarefas de matemática e codificação, com suporte a 23 idiomas.
💻 Pode ser executado em dispositivos de baixo custo, com preço acessível, adequado para diversas aplicações empresariais.