Una investigación reciente dirigida por el Instituto Tecnológico de Israel revela que los modelos de lenguaje grandes (LLM) podrían estar "ocultando" sus conocimientos, poseyendo más información de la que demuestran. Los investigadores descubrieron que las representaciones internas de los LLM codifican información sobre la corrección de sus salidas, incluso cuando generan respuestas incorrectas, pudiendo identificar internamente la respuesta correcta. El equipo de investigación se centró en el análisis de los errores de los LLM en la generación de textos largos, un escenario más cercano a sus aplicaciones en el mundo real. Construyeron un conjunto de datos de detección de errores, comparando las respuestas del modelo...