近日,摩尔线程公司宣布正式开源其研发的音频理解大模型——MooER(摩耳),这一业界首个基于国产全功能GPU进行训练和推理的大型开源语音模型,展示了摩尔线程在人工智能领域的最新成果。

MooER大模型在摩尔线程夸娥(KUAE)智算平台上,仅用38小时便完成了5000小时音频数据和伪标签的训练。这一成就得益于公司自研的创新算法和高效计算资源的结合。MooER不仅支持中文和英文的语音识别,还具备中译英的语音翻译能力,在多个语音识别领域的测试集中展现出优异表现。特别在Covost2中译英测试集中,MooER-5K取得了25.2的BLEU分数,接近工业级效果。

微信截图_20240826083635.png

摩尔线程AI团队开源了推理代码和5000小时数据训练的模型,并计划进一步开源训练代码和基于8万小时数据训练的模型。MooER的模型结构包括Encoder、Adapter和Decoder三个部分,使用开源的Paraformer语音编码器、Qwen2-7B-instruct大语言模型来初始化Encoder和LLM模块。

在技术对比中,MooER-5K在中文和英文测试集上的表现均优于其他开源模型。摩尔线程通过这一开源项目,为数据资源和计算资源有限的开发者提供了宝贵的参考和支持。

GitHub:https://github.com/MooreThreads/MooER