Pesquisadores do Google anunciaram recentemente a arquitetura inovadora de modelos da série 'Titans', que, por meio de design biomimético, alcançou o comprimento de contexto de 2 milhões de tokens, com planos para liberar o código-fonte no futuro. A inovação central desta arquitetura reside na introdução de um módulo de memória de longo prazo neural profunda, inspirado no sistema de memória humana. Titans combina habilmente a capacidade de resposta rápida da memória de curto prazo com as características de persistência da memória de longo prazo, utilizando simultaneamente um mecanismo de atenção para lidar com o contexto imediato, formando um sistema de processamento de informações eficiente. De acordo com o Google...