Cappy
一款小型评分器,提升大型多任务语言模型性能
普通产品生产力自然语言处理语言模型
Cappy是一种新型方法,旨在提高大型多任务语言模型的性能和效率。它是一个轻量级的预训练评分器,基于RoBERTa,仅有3.6亿个参数。Cappy可独立解决分类任务,或作为辅助组件提升语言模型性能。在下游任务中微调Cappy,可有效整合监督信息,提高模型表现,且不需要反向传播到语言模型参数,降低了内存需求。Cappy适用于开源和封闭源代码的语言模型,是一种高效的模型微调方法。
Cappy 最新流量情况
月总访问量
4663
跳出率
92.31%
平均页面访问数
1.1
平均访问时长
00:00:32