recurrent-pretraining

大规模深度循环语言模型的预训练代码，支持在4096个AMD GPU上运行。

普通产品编程深度学习自然语言处理

该产品是一个用于大规模深度循环语言模型的预训练代码库，基于Python开发。它在AMD GPU架构上进行了优化，能够在4096个AMD GPU上高效运行。该技术的核心优势在于其深度循环架构，能够有效提升模型的推理能力和效率。它主要用于研究和开发高性能的自然语言处理模型，特别是在需要大规模计算资源的场景中。该代码库开源且基于Apache-2.0许可证，适合学术研究和工业应用。

Best AI Websites & Tools

recurrent-pretraining

recurrent-pretraining 最新流量情况

recurrent-pretraining 访问量趋势

recurrent-pretraining 访问地理位置分布

recurrent-pretraining 流量来源

recurrent-pretraining 替代品

DeepSeek 模型兼容性检测 — 检测设备是否能运行不同规模的 DeepSeek 模型，提供兼容性预测。

node-DeepResearch — 持续搜索和阅读网页，直到找到答案（或超出token预算）。

Open R1 — 这是一个完全开放的 DeepSeek-R1 模型的复现项目，旨在帮助开发者复现和构建基于 R1 的模型。

Janus-Pro-1B — Janus-Pro-1B 是一个统一多模态理解和生成的自回归框架。

Tarsier — Tarsier 是由字节跳动推出的用于生成高质量视频描述的大型视频语言模型。

VideoLLaMA3 — VideoLLaMA3是前沿的多模态基础模型，专注于图像和视频理解。

MiniMax-01 — 强大的语言模型，拥有4560亿总参数，可处理长达400万token的上下文。

Llama-3.1-70B-Instruct-AWQ-INT4 — 70B参数的文本生成模型

DeepSeek-V3 — 一款具有671B参数的Mixture-of-Experts语言模型。

DRT-o1 — 深度推理翻译模型，通过长思考链优化神经机器翻译。

mwp_ReFT — 基于深度强化学习的模型微调框架

Florence-VL — 视觉语言模型增强工具，结合生成式视觉编码器和深度广度融合技术。

PaliGemma 2 — PaliGemma 2是功能强大的视觉语言模型，简单易调优。

LLaMA-Mesh — 3D网格生成与语言模型的统一

MaskGCT TTS Demo — 基于MaskGCT模型的文本到语音演示

mPLUG-DocOwl 1.5 — OCR-free 文档理解的统一结构学习模型

F5-TTS — 基于深度学习的高质量文本到语音合成模型

Llama 3.2 3b Voice — 使用Llama模型的语音合成工具

Aixploria — AI工具目录，发现最佳AI工具

RWKV — 新一代大模型架构，超越 Transformer。

llama3-from-scratch — 从零开始实现Llama3模型

RAGFlow — 开源的基于深度文档理解的RAG（检索增强生成）引擎

llava-llama-3-8b-v1_1 — 一款由XTuner优化的LLaVA模型，结合了图像和文本处理能力。

nasa-smd-ibm-st — 增强自然语言技术用于NASA科学任务方向的信息检索和智能搜索

MovieLLM — MovieLLM是一个用于增强长视频理解的AI生成电影框架

BASE TTS — 亚马逊的大规模语音合成模型

LLMs-from-scratch — 深入了解大型语言模型的内部工作

DenserBot — 将数据转化为知识

newsanalyst — 每小时更新全球政治、科技和商业等最新动态的人工智能新闻分析师