inference-gateway

Dify是一个开源的大型语言模型（LLM）应用开发平台。Dify拥有直观的界面，集成了AI工作流程、RAG管道、智能体功能、模型管理、可观测性功能等，让您可以快速地从原型开发到产品上线。

Dear ImGui：一款轻量级、无膨胀的C++图形用户界面库，依赖项极少

将生成式AI轻松集成到您的应用中！专注于您的产品，而非RAG技术本身。简单易用，轻松集成到现有产品，并支持自定义！兼容各种大型语言模型（LLM），例如GPT4、Groq和Llama；兼容各种向量数据库（Vectorstore），例如PGVector和Faiss；支持各种文件类型；您可以随心所欲地进行配置。

开源免费的替代方案，可替代OpenAI、Claude等。支持本地自托管，无需GPU，可在家用硬件上运行。可直接替换OpenAI，支持gguf、transformers、diffusers等多种模型架构。功能包括：文本、音频、视频、图像生成，语音克隆，分布式和P2P推理。

aider 是一个在你终端运行的 AI 结对编程工具

灵活的后端，适用于所有项目！将您的数据库轻松转换为无头 CMS、管理面板或具有自定义 UI、即时 API、身份验证等功能的应用程序。

免费获取ChatGPT和DeepSeek API密钥，提供免费的ChatGPT和DeepSeek API接口。您可以免费接入DeepSeek API和GPT-4 API，支持目前主流的顶级大模型，例如GPT、DeepSeek、Claude、Gemini和Grok。

增强版ChatGPT克隆：集成了Agents（智能体）、DeepSeek（深度搜索）、Anthropic、AWS、OpenAI、Assistants API、Azure、Groq、o1、GPT-4o、Mistral、OpenRouter、Vertex AI、Gemini、Artifacts（模型制品）、AI模型切换、消息搜索、代码解释器、Langchain、DALL-E 3、OpenAPI Actions、函数功能、安全多用户认证、预设以及开源自托管功能。项目正在积极开发中。

这是一个大型语言模型(LLM) API 管理和分发系统，支持OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节跳动豆包、ChatGLM、文心一言、讯飞星火、通义千问、360智脑、腾讯混元等主流模型。它提供统一的API接口，方便管理API密钥并进行二次分发。系统以单可执行文件形式提供，并支持Docker镜像，一键部署，方便快捷。

一个Python软件开发工具包（SDK）和代理服务器（大型语言模型网关），可以调用100多个OpenAI格式的大型语言模型API，支持Bedrock、Azure、OpenAI、Vertex AI、Cohere、Anthropic、SageMaker、Hugging Face、Replicate和Groq等平台。