Os pesquisadores apresentam a arquitetura Titans e a estrutura MIRAS, que permitem que os modelos de IA aprendam e atualizem a memória central em tempo real. Essa nova abordagem combina a velocidade do RNN com a precisão do Transformer, permitindo que os modelos sejam dimensionados para contextos com mais de 2 milhões de tokens e se sobressaiam na recuperação de contextos longos, mantendo o treinamento eficiente e a inferência rápida.