A equipe do Xiaohongshu, em parceria com a PKU e a SJTU, desenvolveu o HYPIC, o primeiro sistema a oferecer armazenamento em cache independente de posição para modelos de grande porte com atenção híbrida. Ele armazena em cache os operadores de transição para camadas lineares, utiliza janelas de costura para a atenção total e permite o paralelismo no nível do segmento. Os testes demonstraram um atraso no primeiro token 3,25 vezes menor e um QPS sustentável 1,66 vezes maior em comparação com o cache de prefixo, com perda mínima de qualidade.