Llama-3 70B Gradient 524K Adapter是一个基于Llama-3 70B模型的适配器，由Gradient AI Team开发，旨在通过LoRA技术扩展模型的上下文长度至524K，从而提升模型在处理长文本数据时的性能。该模型使用了先进的训练技术，包括NTK-aware插值和RingAttention库，以高效地在高性能计算集群上进行训练。