Una investigación reciente de Google DeepMind revela que los grandes modelos de lenguaje tienen dificultades para autocorregir errores de razonamiento sin guía externa. Los investigadores descubrieron que cuando los modelos intentan corregir sus respuestas iniciales basándose únicamente en su propio razonamiento, a menudo cometen más errores.
El estudio también encontró que, aunque lograr un consenso a través de la votación de múltiples modelos puede producir autoconsistencia, esto difiere significativamente de una verdadera autocorrección.
Los autores del estudio señalan que estos hallazgos son cruciales para el desarrollo de aplicaciones que requieren un alto nivel de seguridad. Hacen un llamado a continuar mejorando los modelos de lenguaje existentes, reconociendo tanto el potencial como las limitaciones de la autocorrección.
