Los investigadores de Google han presentado Cappy, un modelo de evaluador preentrenado diseñado para mejorar el rendimiento de los grandes modelos de lenguaje multitarea. Cappy, basado en la arquitectura RoBERTa, se preentrena con un conjunto diverso de datos para mejorar el rendimiento y la eficiencia de los modelos de lenguaje multitarea. Al introducir el evaluador ligero Cappy, se aborda el desafío de utilizar eficazmente los grandes modelos de lenguaje en escenarios multitarea. Los investigadores proponen un método de construcción de datos que satisface las necesidades de diversidad de etiquetas en los datos de preentrenamiento, generando un conjunto de datos grande y eficaz.