llama3-desde-cero

Implementación del modelo Llama3 desde cero

Producto ComúnProgramaciónAprendizaje profundoProcesamiento del lenguaje natural

Este es un proyecto de código abierto en el que el autor, naklecha, ha implementado el modelo Llama3 desde cero. Se trata de un modelo de lenguaje grande que ofrece una implementación de código detallada, incluyendo todos los componentes del modelo, como el mecanismo de atención y la red feedforward. Este proyecto permite a los desarrolladores comprender a fondo el funcionamiento de los modelos de lenguaje grandes, y también sirve como base para realizar experimentos y mejoras.

Best AI Websites & Tools

llama3-desde-cero

llama3-desde-cero Situación del tráfico más reciente

llama3-desde-cero Tendencia de visitas

llama3-desde-cero Distribución geográfica de las visitas

llama3-desde-cero Fuentes de tráfico

llama3-desde-cero Alternativas

Detección de Compatibilidad de Modelos DeepSeek — Detecta si un dispositivo puede ejecutar modelos DeepSeek de diferentes escalas, ofreciendo una predicción de compatibilidad.

llama3-desde-cero — Implementación del modelo Llama3 desde cero

FlexHeadFA — Mecanismo de atención preciso, rápido y eficiente en cuanto a memoria.

FlashMLA — FlashMLA es un núcleo de decodificación MLA eficiente optimizado para GPU Hopper, ideal para servicios de secuencias de longitud variable.

VLM-R1 — VLM-R1 es un modelo de lenguaje visual reforzado estable y versátil, enfocado en tareas de comprensión visual.

Preentrenamiento de modelos de lenguaje recurrentes a gran escala — Código de preentrenamiento para modelos de lenguaje recurrentes profundos a gran escala, compatible con la ejecución en 4096 GPU AMD.

node-DeepResearch — Busca y lee páginas web continuamente hasta encontrar la respuesta (o hasta agotar el presupuesto de tokens).

Open R1 — Este es un proyecto de reproducción de un modelo DeepSeek-R1 completamente abierto, diseñado para ayudar a los desarrolladores a reproducir y construir modelos basados en R1.

Janus-Pro-1B — Janus-Pro-1B es un marco autorregresivo unificado de comprensión y generación multimodal.

Tarsier — Tarsier es un modelo de lenguaje de video a gran escala desarrollado por ByteDance para generar descripciones de video de alta calidad.

VideoLLaMA3 — VideoLLaMA3 es un modelo base multimodal de vanguardia, especializado en la comprensión de imágenes y videos.

MiniMax-01 — Potente modelo de lenguaje con 4560 mil millones de parámetros totales, capaz de procesar contextos de hasta 4 millones de tokens.

Llama-3.1-70B-Instruct-AWQ-INT4 — Modelo de generación de texto con 70 mil millones de parámetros

DeepSeek-V3 — Un modelo de lenguaje Mixture-of-Experts con 671B parámetros.

DRT-o1 — Modelo de traducción automática neuronal basado en cadenas de razonamiento largas para optimizar la traducción.

mwp_ReFT — Marco de ajuste fino de modelos basado en el aprendizaje por refuerzo profundo

Florence-VL — Herramienta de mejora de modelos de lenguaje visual, que combina un codificador visual generativo y una técnica de fusión de profundidad y amplitud.

PaliGemma 2 — PaliGemma 2 es un potente modelo de lenguaje visual, fácil de ajustar.

LLaMA-Mesh — Unificación de modelos de lenguaje y generación de mallas 3D

Demostración de TTS MaskGCT — Demostración de texto a voz (TTS) basada en el modelo MaskGCT

mPLUG-DocOwl 1.5 — Modelo de aprendizaje de estructura unificada para la comprensión de documentos sin OCR

F5-TTS — Modelo de síntesis de texto a voz (TTS) de alta calidad basado en aprendizaje profundo

Llama 3.2 3b Voice — Herramienta de síntesis de voz basada en el modelo Llama.

Aixploria — Directorio de herramientas de IA, descubre las mejores herramientas de IA

RWKV — Arquitectura de modelo grande de nueva generación, que supera a Transformer.

Gemma-2-27b — Modelo de generación de texto abierto, ligero y avanzado

phi3-Chino — Dedicado a recopilar versiones variantes de entrenamiento de phi3 de la comunidad de código abierto, y a organizar tutoriales de entrenamiento, inferencia e implementación.

RAGFlow — Motor de RAG (Generación Aumentada por Recuperación) de código abierto basado en una comprensión profunda de documentos.

llava-llama-3-8b-v1_1 — Modelo LLaVA optimizado por XTuner, que combina el procesamiento de imágenes y texto.

nasa-smd-ibm-st — Mejora las técnicas de lenguaje natural para la recuperación de información y la búsqueda inteligente en el ámbito de las misiones científicas de la NASA.