Ghudsavar

快速上手Llama 3.3、DeepSeek-R1、Phi-4、Gemma 3以及其他大型语言模型。

使用Llama 3.3、DeepSeek-R1和推理大型语言模型微调，速度提升2倍，内存占用减少70%！

开源免费的替代方案，可替代OpenAI、Claude等。支持本地自托管，无需GPU，可在家用硬件上运行。可直接替换OpenAI，支持gguf、transformers、diffusers等多种模型架构。功能包括：文本、音频、视频、图像生成，语音克隆，分布式和P2P推理。

Firefly是一个强大的大模型训练工具，可以用来训练各种流行的大模型，例如：Qwen 2.5、Qwen 2、Yi 1.5、Phi-3、Llama 3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan 2、LLaMA 2、LLaMA、Qwen、Baichuan、ChatGLM 2、InternLM、Ziya 2、Vicuna和Bloom等。

谷歌Gemma模型的官方PyTorch实现

纯C/C++实现的稳定扩散和Flux模型

一款原生 macOS 应用，无需安装任何其他软件，即可让用户与本地大型语言模型 (LLM) 聊天。该模型可以利用您 Mac 上的文件、文件夹和网站信息进行回复，由 llama.cpp 驱动。

一个快速、键盘操作为主的终端用户界面，用于与大型语言模型交互。可以与ChatGPT、Claude、Llama 3、Phi 3、Mistral、Gemma等模型进行对话。

谷歌生成式AI网站的文档，包含Gemini API和Gemma的相关说明

在 iOS 和 MacOS 系统上，使用 GGML 库离线运行 Llama 等大型语言模型。