El equipo Dots Infra de Xiaohongshu ha publicado en código abierto BigMac, un paradigma de entrenamiento paralelo en pipeline para modelos de lenguaje grandes (LLM) multimodales. Este paradigma integra los cálculos del codificador y el generador en una programación optimizada del LLM, rompiendo así la disyuntiva entre la velocidad de cálculo y el uso de memoria. En las tareas de comprensión, BigMac alcanza una aceleración de entre 1,08 y 1,9 veces con respecto a los modelos de referencia, con una memoria estable; en las tareas de generación, evita el agotamiento de memoria (OOM) al tiempo que ofrece una aceleración de entre 1,5 y 1,9 veces.