Mamba-2 é um novo modelo de sequência desenvolvido pelo Goomba AI Lab, com o objetivo de melhorar a eficiência e o desempenho de modelos de sequência na comunidade de aprendizado de máquina. Combinando os pontos fortes dos modelos de espaço de estados (SSM) e mecanismos de atenção através do modelo de espaço de estados estruturado dual (SSD), ele oferece um processo de treinamento mais eficiente e dimensões de estado maiores. O design do Mamba-2 permite que o modelo aproveite a multiplicação de matrizes durante o treinamento, melhorando a eficiência do hardware. Além disso, o Mamba-2 apresenta um desempenho excelente em tarefas como memória associativa de múltiplas consultas (MQAR), demonstrando seu potencial em tarefas complexas de processamento de sequências.