LiteLLM

Biblioteca de código aberto que simplifica as chamadas de conclusão e embedding de LLM.

Produto ComumProdutividadeFerramentas de DesenvolvimentoProcessamento de Linguagem Natural

O LiteLLM é uma biblioteca de código aberto projetada para simplificar as chamadas de conclusão e embedding de modelos de linguagem grandes (LLMs). Ele integra APIs de várias plataformas, incluindo Azure, Anthropic, OpenAI, Cohere e Replicate, permitindo que você as chame usando uma única função. O LiteLLM oferece interfaces convenientes e um formato de saída consistente, tornando o uso de modelos LLM mais fácil. Pode ser usado em diversos cenários, como processamento de linguagem natural, geração de texto e sistemas de diálogo.

Chamar a API de conclusão e embedding de LLM do Azure
Chamar a API de conclusão e embedding de LLM do Anthropic
Chamar a API de conclusão e embedding de LLM do OpenAI
Chamar a API de conclusão e embedding de LLM do Cohere
Chamar a API de conclusão e embedding de LLM do Replicate

O LiteLLM pode ser usado em diversos cenários
incluindo processamento de linguagem natural
geração de texto e sistemas de diálogo.

Abrir Site

LiteLLM Situação do Tráfego Mais Recente

Total de Visitas Mensais

259302

Taxa de Rejeição

42.68%

Média de Páginas por Visita

2.9

Duração Média da Visita

00:02:41

LiteLLM Tendência de Visitas

LiteLLM Distribuição Geográfica das Visitas

LiteLLM Fontes de Tráfego

LiteLLM Alternativas

LiteLLM — Biblioteca de código aberto que simplifica as chamadas de conclusão e embedding de LLM.

Produtividade

•Ferramentas de Desenvolvimento•Processamento de Linguagem Natural

2700

s1-32B — s1 é um modelo de inferência baseado no Qwen2.5-32B-Instruct, treinado com apenas 1000 amostras.

Produtividade

•Geração de Texto•Modelo de Inferência

372

OLMo-2-1124-7B-SFT — Modelo de geração de texto em inglês de alto desempenho

Produtividade

•Geração de Texto•Processamento de Linguagem Natural

OLMo-2-1124-13B-Instruct — Modelo de linguagem grande otimizado, especializado em geração de texto e diálogo.

Produtividade

Best AI Websites & Tools

LiteLLM

LiteLLM Situação do Tráfego Mais Recente

LiteLLM Tendência de Visitas

LiteLLM Distribuição Geográfica das Visitas

LiteLLM Fontes de Tráfego

LiteLLM Alternativas

LiteLLM — Biblioteca de código aberto que simplifica as chamadas de conclusão e embedding de LLM.

s1-32B — s1 é um modelo de inferência baseado no Qwen2.5-32B-Instruct, treinado com apenas 1000 amostras.

OLMo-2-1124-7B-SFT — Modelo de geração de texto em inglês de alto desempenho

OLMo-2-1124-13B-Instruct — Modelo de linguagem grande otimizado, especializado em geração de texto e diálogo.

Llama-3.1-Tulu-3-8B-DPO — Modelo avançado de geração de texto, que suporta diversas tarefas.

Llama-3.1-Tulu-3-8B — Modelo de seguimento de instruções avançado, com dados e código abertos.

gemma-2-9b — Modelo de geração de texto leve e avançado

Llama3-ChatQA-1.5-8B — Modelo avançado de diálogo, perguntas e respostas e geração, construído com tecnologia NVIDIA.

TinyGPT-V — Modelo de linguagem grande e multimodal eficiente

Xwen-Chat — Xwen-Chat é um conjunto de modelos de linguagem grandes focados em diálogo em chinês, oferecendo diversos modelos e serviços de geração de linguagem.

node-DeepResearch — Realiza buscas e leituras contínuas na web até encontrar a resposta (ou exceder o orçamento de tokens).

Dolphin R1 — Dolphin R1 é um conjunto de dados para treinamento de modelos de raciocínio, contendo 800.000 amostras.

Eko — Uma estrutura de agente inteligente de nível de produção para desenvolvedores, permitindo a construção de fluxos de trabalho de agentes de nível de produção usando linguagem natural.

DeepSeek-R1-Distill-Qwen-14B — DeepSeek-R1-Distill-Qwen-14B é um modelo de geração de texto de alto desempenho, adequado para diversas tarefas de raciocínio e geração.

InternLM3 — InternLM3 é um conjunto de modelos focado na geração de texto, oferecendo diversas versões otimizadas para atender diferentes necessidades.

Llama-3-Patronus-Lynx-8B-Instruct-Q4_K_M-GGUF — Modelo de linguagem grande quantizado baseado em um modelo específico, adequado para tarefas de processamento de linguagem natural.

Llama-3-Patronus-Lynx-70B-Instruct — Modelo de avaliação de código aberto para detecção de alucinações, baseado na arquitetura Llama-3, com 70 bilhões de parâmetros.

CAG — Um método de aprimoramento de modelo de linguagem que não requer recuperação em tempo real, melhorando a eficiência de geração por meio do pré-carregamento de um cache de conhecimento.

Llama-3-Patronus-Lynx-8B-Instruct-v1.1 — Modelo de avaliação de alucinação de código aberto

Llama-3.1-70B-Instruct-AWQ-INT4 — Modelo de geração de texto com 70 bilhões de parâmetros

HuatuoGPT-o1-8B — Modelo de linguagem grande avançado para a área médica

Llama-lynx-70b-4bitAWQ — Modelo de geração de texto com 7 bilhões de parâmetros

glider-gguf — Modelo de linguagem quantizado de alto desempenho

Q-RWKV-6 32B Instruct Preview — Variante mais poderosa do modelo RWKV, superando vários benchmarks em inglês.

OLMo-2-1124-7B-RM — Modelo de linguagem grande, usado para geração e classificação de texto

OLMo-2-1124-13B-SFT — Modelo avançado de geração de texto

INTELLECT-1-Instruct — Modelo de linguagem de texto e código em inglês com 1 bilhão de parâmetros

OLMo-2-1124-7B-DPO — Modelo avançado de geração de texto, que suporta o processamento de diversas tarefas.

OLMo-2-1124-13B-DPO — Modelo de linguagem inglês de alto desempenho, adequado para diversas tarefas.

dolmino-mix-1124 — Conjunto de dados de alta qualidade, usado na segunda etapa do treinamento do OLMo2.