阿联酋政府支持的技术创新研究所(TII)近日宣布推出其新一代开源小型语言模型(SLM)——Falcon3系列。这一系列包括四个不同规模的模型:1B、3B、7B和10B,并提供基础版与指令版两种变体,旨在为开发人员、研究人员和企业提供一种高效且成本低廉的AI解决方案。这些模型的推出,标志着AI功能的进一步民主化,能够在轻量级的单GPU基础设施上运行,满足对计算资源有限的设备和应用场景的需求。

QQ20241218-092217.png

图源备注:图片由AI生成,图片授权服务商Midjourney

Falcon3的表现已在Hugging Face排行榜上脱颖而出,超越了与之尺寸相同的开源模型,如Meta的Llama和Qwen-2.5。特别是7B和10B版本在推理速度、语言理解、指令执行以及代码和数学任务等方面,展现了领先的技术优势,甚至在多个基准测试中超越了谷歌、Meta和阿里巴巴等竞争对手。

与传统的大型语言模型(LLM)相比,SLM模型因其较少的参数和更简洁的设计,具备高效性和低成本优势,尤其适合在客户服务、医疗保健、物联网等领域中应用。根据市场研究公司Valuates Reports的数据,SLM市场预计将在未来五年实现18%的年均增长。

Falcon3系列的训练数据规模达到了14万亿tokens,是其前身Falcon2的两倍多。该系列采用了仅解码器架构和分组查询注意机制,最大限度地减少了内存使用,同时提升了推理效率。Falcon3支持英语、法语、西班牙语和葡萄牙语等四种语言,并配备了32K的上下文窗口,能够处理长输入文本,满足各类行业的需求。

TII表示,Falcon3的基础模型适合通用任务,指令版则专为对话任务如客户服务和虚拟助手优化。该系列的推出将进一步推动边缘计算和隐私敏感应用的发展,支持如个性化推荐、数据分析、医疗诊断和供应链优化等场景。

所有Falcon3模型都遵循TII Falcon License2.0发布,这是一个基于Apache2.0的宽松许可证,支持负责任的AI开发和部署。为了帮助开发者和研究人员上手,TII还推出了Falcon Playground测试环境,用户可以在集成这些模型之前进行试用。