Hoje, a equipe Tongyi da Alibaba Cloud lançou oficialmente o novo modelo de recompensa de processo de raciocínio matemático Qwen2.5-Math-PRM. O modelo está disponível em dois tamanhos, 72B e 7B, apresentando desempenho significativamente superior a modelos de recompensa de processo de código aberto semelhantes, especialmente na identificação de erros de raciocínio. A versão de 7B do Qwen2.5-Math-PRM surpreendentemente superou o popular GPT-4o, um feito que marca um passo importante para a Alibaba Cloud no desenvolvimento de modelos de raciocínio. Para completar...

A equipe Qwen da Alibaba publicou recentemente um artigo intitulado "Lições aprendidas no desenvolvimento de modelos de recompensa de processo em raciocínio matemático" e lançou dois novos modelos na série Qwen2.5-Math-PRM, com 7B e 72B de parâmetros, respectivamente. Esses modelos superaram as limitações das estruturas PRM existentes em raciocínio matemático, utilizando técnicas inovadoras para melhorar significativamente a precisão e a capacidade de generalização dos modelos de raciocínio. O raciocínio matemático tem sido um grande desafio para os grandes modelos de linguagem (LLM), especialmente em passos de raciocínio intermediários, onde erros...

A Microsoft anunciou recentemente sua nova tecnologia rStar-Math, um método de raciocínio inovador que pode ser aplicado a modelos de linguagem menores (SLMs), melhorando significativamente seu desempenho em problemas matemáticos, até mesmo superando o modelo o1-preview da OpenAI em alguns casos. Essa tecnologia ainda está em fase de pesquisa, e o artigo de pesquisa foi publicado no arXiv.org, com oito autores da Microsoft, da Universidade de Pequim e da Universidade Tsinghua. Em testes, a tecnologia rStar-Math

Recentemente, pesquisadores da equipe Qwen da Alibaba lançaram um novo benchmark chamado "PROCESSBENCH", projetado para medir a capacidade dos modelos de linguagem em identificar erros de processo em raciocínio matemático. Com o progresso significativo dos modelos de linguagem em tarefas de raciocínio complexo, pesquisadores nessa área descobriram que, apesar do excelente desempenho dos modelos, eles ainda enfrentam desafios ao lidar com alguns problemas difíceis. Portanto, o desenvolvimento de um método de supervisão eficaz é crucial. Atualmente, os benchmarks de avaliação para modelos de linguagem apresentam algumas deficiências. Por um lado,

A Kimi, o Assistente Inteligente da Lua Escura, anunciou o lançamento de seu novo modelo de raciocínio matemático, o k0-math. O modelo k0-math demonstrou desempenho excepcional em diversos testes de referência de habilidades matemáticas, superando os modelos o1-mini e o1-preview da série OpenAI o1 em quatro testes de referência: exames de nível médio, exames de nível superior, exames de pós-graduação e o MATH, que inclui problemas de competições introdutórias.

Modelos de linguagem grandes têm demonstrado excelente desempenho em muitas tarefas, mas sua capacidade de raciocínio tem sido objeto de debate. Pesquisadores do Meta publicaram recentemente um artigo mostrando como eles usaram um modelo Transformer para resolver um problema de longa data no campo da matemática: descobrir a função de Lyapunov global de um sistema dinâmico. A função de Lyapunov pode determinar se um sistema dinâmico é estável; por exemplo, pode ser usada para prever a estabilidade a longo prazo do problema de três corpos, ou seja, a trajetória de movimento a longo prazo de três corpos sob a influência da gravidade. No entanto, ainda não foi encontrada uma solução universal para este problema.

Recentemente, pesquisadores da Apple conduziram um estudo aprofundado sobre a capacidade de raciocínio matemático de grandes modelos de linguagem (LLMs), lançando um novo benchmark chamado GSM-Symbolic. Este novo benchmark foi desenvolvido com base no GSM8K, que é usado principalmente para avaliar habilidades matemáticas básicas. Embora muitos LLMs tenham mostrado melhorias no GSM8K, a comunidade científica ainda tem dúvidas sobre a capacidade de raciocínio desses modelos, acreditando que os indicadores de avaliação existentes podem não refletir totalmente suas capacidades reais. A pesquisa revela...

Em uma notícia recente que causou impacto no mundo da matemática, um grupo de ex-alunos da Tsinghua utilizou a força da IA para provar com sucesso 162 teoremas matemáticos que antes eram insolúveis. Mais impressionante ainda, esta entidade inteligente, chamada LeanAgent, conseguiu até mesmo resolver o problema formalizado da conjectura de Freiman-Ruzsa polinomial de Terence Tao! Isso nos faz refletir sobre como a IA está revolucionando completamente os métodos de pesquisa em ciências básicas. Como sabemos, os modelos de linguagem atuais (LLM), apesar de impressionantes, ainda são em sua maioria...

A Alibaba Cloud lançou a série de modelos de linguagem grandes Qwen2-Math, focada na capacidade de resolução de problemas matemáticos, superando os modelos de código aberto existentes e rivalizando com modelos proprietários de renome, incluindo GPT-4, Claude-3.5-Sonnet, Gemini-1.5-Pro e Llama-3.1-405B. A série é baseada no modelo Qwen2 e foi treinada extensivamente em um corpus de dados matemáticos especializados, abrangendo texto matemático online, livros especializados, exemplos de código e problemas de exame, incluindo até mesmo dados gerados pelo próprio Qwen2.

O ranking mais recente do LMSYS Chatbot Arena, uma arena de competição de modelos de linguagem grandes organizada pela LMSYS, mostra que o DeepSeek-V2-0628, ultrapassando vários modelos de código aberto como Llama3-70B, Qwen2-72B, Nemotron-4-340B e Gemma2-27B, ocupa o primeiro lugar no ranking global de modelos de código aberto. Em comparação com a versão 0507, o DeepSeek-V2-0628 apresenta melhorias significativas em raciocínio matemático e de código, seguimento de instruções, interpretação de papéis e JS.

A equipe da Mistral AI lançou recentemente o MathΣtral, um modelo matemático projetado para raciocínio matemático complexo e descobertas científicas, com uma janela de contexto de 32.000 palavras para lidar com problemas complexos. Disponível sob a licença de código aberto Apache 2.0, visa apoiar a comunidade acadêmica e desenvolvedores, impulsionando a pesquisa em problemas matemáticos avançados. O MathΣtral apresentou desempenho superior em vários benchmarks, obtendo pontuações notáveis de 56,6% no MATH e 63,47% no MMLU. O maior destaque é...

O Google DeepMind usou modelos de linguagem grandes para resolver com sucesso problemas matemáticos não resolvidos. A ferramenta de IA FunSearch descobriu novas informações verificáveis e valiosas. FunSearch é uma ferramenta capaz de descobrir soluções em matemática. Ao ser usada em conjunto com um grande modelo de linguagem chamado Codey, a FunSearch também resolveu com sucesso o problema do bin packing.

O MathGPT, o primeiro modelo de grande escala projetado especificamente para matemática na China, foi oficialmente lançado, superando o GPT-4 em vários testes de benchmark e estabelecendo um novo SOTA. A capacidade de cálculo matemático do MathGPT abrange problemas de matemática do ensino fundamental, médio e superior, incluindo vários tipos de problemas como cálculos, problemas de aplicação e álgebra. O MathGPT pode resolver problemas com maior precisão e fornecer explicações mais claras e compreensíveis, atendendo melhor às necessidades dos usuários que buscam soluções para problemas matemáticos usando produtos de IA.