随着人工智能（AI）、机器学习(ML)和高性能计算(HPC)在各行业的迅速发展，面对这些工作负载所带来的挑战，AMD 近日推出了 ROCm6.3，这是一个专为 AMD Instinct GPU 加速器设计的开源平台。该平台的推出旨在帮助开发人员应对计算资源、内存管理和优化软件方面的需求，提升工作效率。ROCm6.3集成了多项先进工具和优化功能，力求在性能与开发者友好性之间取得平衡。其中，SGLang 语言支持使得 AI 推理更加高效，能够流畅地执行复杂的模型。此外，重新设计的 FlashAttention-2则有效解决了 AI 训练与