glider-gguf

Modelo de lenguaje cuantificado de alto rendimiento

Producto ComúnProgramaciónGGUFModelo cuantificado

PatronusAI/glider-gguf es un modelo de lenguaje cuantificado de alto rendimiento basado en la plataforma Hugging Face. Emplea el formato GGUF y admite varias versiones cuantificadas, como BF16, Q8_0, Q5_K_M y Q4_K_M. Este modelo, basado en la arquitectura phi3, cuenta con 3.82B parámetros. Sus principales ventajas son su eficiencia computacional y su pequeño tamaño, lo que lo hace ideal para escenarios que requieren inferencia rápida y bajo consumo de recursos. Según la información de antecedentes del producto, este modelo es proporcionado por PatronusAI y es adecuado para desarrolladores y empresas que necesitan realizar procesamiento de lenguaje natural y generación de texto.

Admite varias versiones cuantificadas GGUF
incluyendo BF16
Q8_0
Q5_K_M y Q4_K_M.
Basado en la arquitectura phi3
con 3.82B parámetros
adecuado para modelos de lenguaje a gran escala.
Carga el modelo a través de la interfaz AutoModelForCausalLM.from_pretrained
facilitando su integración en proyectos existentes.
El modelo admite inferencia rápida

El público objetivo son investigadores
desarrolladores y empresas del campo del procesamiento del lenguaje natural que necesitan una solución eficiente y económica para realizar tareas de generación de texto y comprensión del lenguaje. PatronusAI/glider-gguf
con su eficiente capacidad de inferencia y su reducido tamaño
es especialmente adecuado para escenarios que requieren un despliegue y ejecución rápidos de tareas de PNL.

Para la creación de chatbots
proporcionando una experiencia de conversación fluida.
En aplicaciones de generación de texto
para generar artículos de noticias o contenido para redes sociales.
Como parte de un motor de búsqueda

1. Seleccione la versión cuantificada GGUF adecuada.
2. Ejecute el siguiente código para cargar el modelo: `from transformers import AutoModelForCausalLM; model = AutoModelForCausalLM.from_pretrained(\PatronusAI/glider-gguf\
gguf_file=\glider_{version_from_list}.gguf\)`.
3. Reemplace `{version_from_list}` con la versión cuantificada deseada
por ejemplo

Abrir sitio web

glider-gguf Situación del tráfico más reciente

Total de visitas mensuales

29742941

Tasa de rebote

44.20%

Páginas promedio por visita

5.9

Duración promedio de la visita

00:04:44

glider-gguf Tendencia de visitas

glider-gguf Distribución geográfica de las visitas

Best AI Websites & Tools

glider-gguf

glider-gguf Situación del tráfico más reciente

glider-gguf Tendencia de visitas

glider-gguf Distribución geográfica de las visitas

glider-gguf Fuentes de tráfico

glider-gguf Alternativas

glider-gguf — Modelo de lenguaje cuantificado de alto rendimiento

Llama-3-Patrono-Lince-8B-Instrucciones-Q4_K_M-GGUF — Modelo de lenguaje grande cuantificado basado en un modelo específico, adecuado para tareas de procesamiento del lenguaje natural, entre otras.

Llama-3.1-70B-Instruct-AWQ-INT4 — Modelo de generación de texto con 70 mil millones de parámetros

Llama-lynx-70b-4bitAWQ — Modelo de generación de texto de 7000 millones de parámetros

s1-32B — s1 es un modelo de inferencia ajustado con Qwen2.5-32B-Instruct, entrenado con solo 1000 ejemplos.

Xwen-Chat — Xwen-Chat es un conjunto de modelos de lenguaje grande enfocados en la conversación en chino, que ofrece modelos de varias versiones y servicios de generación de lenguaje.

DeepSeek-R1-Distill-Qwen-14B — DeepSeek-R1-Distill-Qwen-14B es un modelo de generación de texto de alto rendimiento, adecuado para diversas tareas de inferencia y generación.

InternLM3 — InternLM3 es un conjunto de modelos enfocados en la generación de texto, ofreciendo diversas versiones optimizadas para satisfacer diferentes necesidades.

CAG — Un método para mejorar modelos de lenguaje que no requiere búsqueda en tiempo real, aumentando la eficiencia de generación mediante el precarga de un caché de conocimiento.

Llama-3-Patronus-Lynx-8B-Instruct-v1.1 — Modelo de evaluación de alucinaciones de código abierto

Llama-3-Patronus-Lynx-70B-Instruct-Q4_K_M-GGUF — Modelo de lenguaje grande cuantificado de 70B parámetros

Llama-Lynx-70b-4bit-Cuantizado — Modelo de generación de texto cuantizado de 70 mil millones de parámetros

EXAONE-3.5-7.8B-Instruct-GGUF — Modelo de generación de lenguaje bilingüe de 7.8B parámetros de la serie EXAONE 3.5

OLMo-2-1124-7B-RM — Modelo de lenguaje grande para generación y clasificación de texto

OLMo-2-1124-7B-SFT — Modelo de generación de texto en inglés de alto rendimiento

OLMo-2-1124-13B-SFT — Modelo avanzado de generación de texto

INTELLECT-1-Instruct — Modelo de lenguaje de texto y código en inglés con 10 mil millones de parámetros

OLMo-2-1124-7B-DPO — Modelo avanzado de generación de texto que admite el procesamiento de diversas tareas.

OLMo-2-1124-13B-DPO — Modelo de lenguaje de alto rendimiento en inglés, adecuado para diversas tareas.

dolmino-mix-1124 — Conjunto de datos de alta calidad para la segunda etapa de entrenamiento de OLMo2.

olmo-mix-1124 — Conjunto de datos de preentrenamiento multimodal a gran escala

OLMo-2-1124-13B-Instruct — Modelo de lenguaje grande optimizado para la generación de texto y la conversación.

OLMo-2-1124-7B-Instruct — Modelo de generación de diálogo en inglés de alto rendimiento

OLMo 2 7B — Modelo de lenguaje grande de 7B parámetros, que mejora las capacidades de procesamiento del lenguaje natural.

Llama-3.1-Tulu-3-70B-SFT — Modelo líder en la familia de modelos que siguen instrucciones, ofreciendo datos, código y guías de código abierto.

Llama-3.1-Tulu-3-8B-DPO — Modelo avanzado de generación de texto, compatible con diversas tareas

Llama-3.1-Tulu-3-70B-DPO — Familia líder de modelos de cumplimiento de instrucciones, que ofrece datos, código y recetas de código abierto.

Llama-3.1-Tulu-3-70B — Familia líder de modelos que siguen instrucciones, ofreciendo datos, código y guías de código abierto.

Llama-3.1-Tulu-3-8B — Modelo avanzado de seguimiento de instrucciones, con datos y código de fuente abierta.

Qwen Turbo 1M Demo — Qwen Turbo 1M Demo es un espacio de Hugging Face proporcionado por Qwen.