rStar-Math ist eine Forschungsarbeit, die belegen soll, dass kleine Sprachmodelle (SLMs) in der Lage sind, die mathematischen Schlussfolgerungsfähigkeiten des o1-Modells von OpenAI zu erreichen oder sogar zu übertreffen, ohne auf komplexere Modelle angewiesen zu sein. Die Studie nutzt die Monte-Carlo-Baumsuche (MCTS) zur Implementierung von „Tiefen Denken“, wobei ein mathematisches Strategi-SLM während der Tests im Rahmen eines auf SLM basierenden Prozessbelohnungsmodells sucht. rStar-Math führt drei innovative Methoden ein, um die Herausforderungen beim Trainieren von zwei SLMs zu bewältigen. Durch vier Runden der Selbstentwicklung und Millionen synthetischer Lösungen wird das mathematische Schlussfolgerungsvermögen der SLMs auf ein Spitzenniveau gehoben. Das Modell zeigt eine deutliche Leistungssteigerung in MATH-Benchmark-Tests und erzielt hervorragende Ergebnisse im AIME-Wettbewerb.