Popular GitHub Repositories for Llm

快速上手Llama 3.3、DeepSeek-R1、Phi-4、Gemma 3以及其他大型语言模型。

Dify是一个开源的大型语言模型（LLM）应用开发平台。Dify拥有直观的界面，集成了AI工作流程、RAG管道、智能体功能、模型管理、可观测性功能等，让您可以快速地从原型开发到产品上线。

21堂课，开启生成式AI之旅！ https://microsoft.github.io/generative-ai-for-beginners/

GPT4All：在任何设备上运行本地大型语言模型。开源且可用于商业用途。

这款工具旨在为GPT、GLM等大型语言模型提供更便捷易用的交互界面，尤其针对论文阅读、润色和写作进行了优化。它采用模块化设计，支持自定义快捷按钮和函数插件，并能剖析和翻译Python和C++等项目代码。此外，它还具备PDF和LaTeX论文的翻译和总结功能，支持同时查询多个LLM模型（例如ChatGLM3等本地模型），并已接入通义千问、DeepSeekCoder、讯飞星火、文心一言、Llama 2、RWKV、Claude 2、MOSS等多种模型。

多智能体框架：首家AI软件公司，迈向自然语言编程

让网站更容易被人工智能访问

学习大型语言模型 (LLM) 的课程，包含学习路线图和 Colab 笔记本。

统一高效微调100多个大型语言模型和视觉语言模型 (ACL 2024)

一步一步用PyTorch从零开始实现一个类似ChatGPT的大型语言模型。

一种高效且内存利用率高的用于大型语言模型推理和服务的引擎

一个用于自主智能体的编程框架？PyPI：autogen-agentchat Discord：https://aka.ms/autogen-discord 办公时间：https://aka.ms/autogen-officehour

集桌面端和Docker容器于一体的AI应用程序，内置检索增强生成（RAG）、AI智能体、无需编码的智能体构建器等功能。

LlamaIndex 是一个领先的框架，用于基于你的数据构建强大的、由大型语言模型 (LLM) 驱动的智能体。

备份微信聊天记录，导出成HTML、Word、Excel格式方便永久保存；分析聊天记录，生成年度聊天报告；利用聊天数据训练个性化AI聊天助手。

学习如何设计、开发、部署和迭代生产级别的机器学习应用。

将生成式AI轻松集成到您的应用中！专注于您的产品，而非RAG技术本身。简单易用，轻松集成到现有产品，并支持自定义！兼容各种大型语言模型（LLM），例如GPT4、Groq和Llama；兼容各种向量数据库（Vectorstore），例如PGVector和Faiss；支持各种文件类型；您可以随心所欲地进行配置。

拖拽式界面，轻松构建你专属的LLM流程

Ray是一个AI计算引擎。它包含一个核心分布式运行时和一套AI库，用于加速机器学习工作负载。

使用Llama 3.3、DeepSeek-R1和推理大型语言模型微调，速度提升2倍，内存占用减少70%！