opción
Hogar
Última hora
Contenido
DouglasScott
DouglasScott
9 de octubre de 2026

El equipo Seed de ByteDance identifica la sensibilidad a la fase en la compresión del caché KV basado en bloques como la causa de las fluctuaciones de rendimiento en los modelos de lenguaje grandes que procesan texto ultra largo. Este mecanismo introduce coordenadas de fase posicional que afectan drásticamente la precisión de la recuperación, con diferencias de hasta 40 puntos porcentuales en algunos modelos de código abierto. Los hallazgos revelan debilidades periódicas ocultas enmascaradas por los promedios de los puntos de referencia, proporcionando una base teórica para optimizar la arquitectura del modelo y mejorar la estabilidad del razonamiento de contexto largo.

El equipo Seed de ByteDance identifica la sensibilidad a la fase en la compresión del caché KV basado en bloques como la causa de las fluctuaciones de rendimiento en los modelos de lenguaje grandes que procesan texto ultra largo. Este mecanismo introduce coordenadas de fase posicional que afectan drásticamente la precisión de la recuperación, con diferencias de hasta 40 puntos porcentuales en algunos modelos de código abierto. Los hallazgos revelan debilidades periódicas ocultas enmascaradas por los promedios de los puntos de referencia, proporcionando una base teórica para optimizar la arquitectura del modelo y mejorar la estabilidad del razonamiento de contexto largo.
comentario (0)
0/300
OR