Popular GitHub Repositories for Grpo

使用参数高效微调 (PEFT) 或全参数微调方法，对450多个大型语言模型 (LLM)（如 Qwen2.5、InternLM3、GLM4、Llama3.3、Mistral、Yi1.5、Baichuan2、DeepSeek-R1 等）和150多个多模态大型语言模型 (MLLM)（如 Qwen2.5-VL、Qwen2-Audio、Llama3.2-Vision、Llava、InternVL2.5、MiniCPM-V-2.6、GLM4v、Xcomposer2.5、Yi-VL、DeepSeek-VL2、Phi3.5-Vision、GOT-OCR2 等）进行微调。

解读20亿参数模型中的多模态“顿悟”时刻

收集所有关于R1的精彩作品！

DeepSeek-R1 的开源实现

利用强化学习和推理能力释放自主驾驶中大型语言模型的潜力

OpenVLThinker：基于迭代自我改进的视觉语言推理早期探索

一个极简的单文件实现，基于DeepSeekMath论文中介绍的群体相对策略优化 (GRPO)算法。

利用多GPU的分布式强化学习来微调大型语言模型

用于训练小型推理模型的简单仓库

这是一款基于Qwen2.5大模型开发的旅游规划助手。我们使用包含旅行问答的数据集，通过监督微调（SFT）、近端策略优化（PPO）、或梯度近端策略优化（GRPO）等方法对模型进行了优化，能够根据用户的提问生成思维导图式的答案。此外，我们还构建了一个基于增强学习的检索增强生成系统（RAG），它结合了提示模板、工具使用、Chroma向量数据库以及LangChain框架。

利用trl、peft和transformers等工具库，对Hugging Face平台上的预训练模型进行微调。

用于数独求解的大型语言模型微调

一个使用 PyTorch 原生分组训练的示例

Reinforcement Fine-Tuning

This project demonstrates the process of fine-tuning the Qwen2.5-3B-Instruct model using GRPO (Generalized Reward Policy Optimization) on the GSM8K dataset.

用强化学习激励大型语言模型推理能力的论文《DeepSeek-R1》的 PowerPoint 演示文稿