El equipo de investigación de Google ha publicado recientemente la revolucionaria arquitectura de modelos 'Titans', que mediante un diseño biomimético ha logrado un contexto de 2 millones de tokens. Planean liberar el código fuente de esta tecnología en el futuro. La innovación central de esta arquitectura radica en la introducción de un módulo de memoria a largo plazo neuronal profunda, inspirado en el sistema de memoria humana. Titans combina inteligentemente la capacidad de respuesta rápida de la memoria a corto plazo con la persistencia de la memoria a largo plazo, utilizando al mismo tiempo un mecanismo de atención para procesar el contexto inmediato, formando así un sistema de procesamiento de información eficiente. Según Google...