Hogar
El complemento de IA de Sakana AI simplifica el procesamiento de documentos para modelos de gran tamaño
Las dificultades que tienen los modelos de lenguaje a gran escala para procesar textos largos, lo que a menudo se denomina «ansiedad de memoria», podrían ser pronto cosa del pasado. Recientemente, la startup de IA con sede en Tokio Sakana AI presentó dos tecnologías revolucionarias: Text-to-LoRA (T2L) y Doc-to-LoRA (D2L). Gracias a una innovadora arquitectura de «superred», estas tecnologías permiten a los modelos grandes «absorber» documentos masivos o aprender nuevas tareas en menos de un segundo, todo ello sin necesidad de volver a entrenarlos.

Los desarrolladores de IA se han enfrentado durante mucho tiempo a una difícil disyuntiva: meter documentos extensos en una ventana de chat —lo que ralentiza las respuestas y consume mucha memoria— o pagar el elevado coste que supone el ajuste fino de un modelo. Sakana AI introduce una tercera opción. Mediante un pago único por el preentrenamiento, genera plugins de peso minúsculo (LoRA) para lograr una adaptación del modelo eficiente y de bajo coste.
Doc-to-LoRA: las necesidades de memoria se reducen de 12 GB a solo 50 MB
Esta es la tecnología más impresionante de la última versión. Procesar un documento de 128 000 tokens (aproximadamente 100 000 palabras) con métodos tradicionales requiere más de 12 GB de VRAM para almacenar la información. Con D2L, el modelo puede «digerir» directamente esta información en un plugin de menos de 50 MB.
Velocidad extraordinaria: la tecnología tradicional tarda entre 40 y 100 segundos en procesar un documento, mientras que D2L lo hace en menos de 1 segundo.
Ampliando los límites: permite a los modelos manejar textos hasta cuatro veces más largos que su ventana de contexto original, logrando una precisión casi perfecta en pruebas de recuperación del tipo «aguja en un pajar».
Text-to-LoRA: personaliza la IA con lenguaje cotidiano
Text-to-LoRA hace que los modelos sean más receptivos. Los usuarios simplemente describen una tarea en lenguaje natural —por ejemplo, «ayúdame a resolver un problema complejo de una competición de matemáticas»— y el sistema genera automáticamente un complemento específico para mejorar el rendimiento. Los experimentos revelan que los adaptadores creados de esta manera pueden superar a los modelos específicos entrenados desde cero en tareas de matemáticas y razonamiento lógico.
Potente tecnología multimodal: permite a los modelos de texto «ver» imágenes
Los investigadores descubrieron una ventaja inesperada: D2L muestra una gran capacidad multimodal. Al mapear la información visual en los parámetros de un modelo de texto puro, un modelo que nunca antes había procesado imágenes puede clasificarlas con una precisión del **75,03 %**.
Los logros de Sakana AI reducen significativamente las barreras para que particulares y empresas personalicen modelos de IA privados. También allanan un nuevo camino hacia el desarrollo de una inteligencia artificial general (AGI) más ligera e inteligente.
Artículo: https://arxiv.org/pdf/2602.15902
Artículo relacionado
Vals, respaldado por Andreessen, apunta al liderazgo en evaluación de benchmarks de IA
El benchmarking se ha convertido en el estándar de la industria para que las empresas de inteligencia artificial validen las capacidades de sus modelos, aprovechen métricas favorables para diferenciarse de la competencia y comercialicen su superiorid
El ejecutivo de Apple, John Ternus, afirma que el iPhone es el mejor dispositivo con inteligencia artificial
El próximo director ejecutivo de Apple, John Ternus, aclaró la estrategia de inteligencia artificial de la compañía durante el evento Sorpresa y Brillo del miércoles, afirmando que el iPhone ya es el dispositivo de IA principal y priorizando la priva
Qwen-Audio-3.0-TTS: El modelo de síntesis de voz a gran escala de Qwen reduce la demora del primer paquete a 300 ms
La competencia en tecnología de voz entre los principales desarrolladores de inteligencia artificial se ha intensificado con una nueva incorporación. El 20 de julio, Qwen lanzó su último modelo de síntesis de audio, Qwen-Audio-3.0-TTS, desplazando el
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Las dificultades que tienen los modelos de lenguaje a gran escala para procesar textos largos, lo que a menudo se denomina «ansiedad de memoria», podrían ser pronto cosa del pasado. Recientemente, la startup de IA con sede en Tokio Sakana AI presentó dos tecnologías revolucionarias: Text-to-LoRA (T2L) y Doc-to-LoRA (D2L). Gracias a una innovadora arquitectura de «superred», estas tecnologías permiten a los modelos grandes «absorber» documentos masivos o aprender nuevas tareas en menos de un segundo, todo ello sin necesidad de volver a entrenarlos.

Los desarrolladores de IA se han enfrentado durante mucho tiempo a una difícil disyuntiva: meter documentos extensos en una ventana de chat —lo que ralentiza las respuestas y consume mucha memoria— o pagar el elevado coste que supone el ajuste fino de un modelo. Sakana AI introduce una tercera opción. Mediante un pago único por el preentrenamiento, genera plugins de peso minúsculo (LoRA) para lograr una adaptación del modelo eficiente y de bajo coste.
Doc-to-LoRA: las necesidades de memoria se reducen de 12 GB a solo 50 MB
Esta es la tecnología más impresionante de la última versión. Procesar un documento de 128 000 tokens (aproximadamente 100 000 palabras) con métodos tradicionales requiere más de 12 GB de VRAM para almacenar la información. Con D2L, el modelo puede «digerir» directamente esta información en un plugin de menos de 50 MB.
Velocidad extraordinaria: la tecnología tradicional tarda entre 40 y 100 segundos en procesar un documento, mientras que D2L lo hace en menos de 1 segundo.
Ampliando los límites: permite a los modelos manejar textos hasta cuatro veces más largos que su ventana de contexto original, logrando una precisión casi perfecta en pruebas de recuperación del tipo «aguja en un pajar».
Text-to-LoRA: personaliza la IA con lenguaje cotidiano
Text-to-LoRA hace que los modelos sean más receptivos. Los usuarios simplemente describen una tarea en lenguaje natural —por ejemplo, «ayúdame a resolver un problema complejo de una competición de matemáticas»— y el sistema genera automáticamente un complemento específico para mejorar el rendimiento. Los experimentos revelan que los adaptadores creados de esta manera pueden superar a los modelos específicos entrenados desde cero en tareas de matemáticas y razonamiento lógico.
Potente tecnología multimodal: permite a los modelos de texto «ver» imágenes
Los investigadores descubrieron una ventaja inesperada: D2L muestra una gran capacidad multimodal. Al mapear la información visual en los parámetros de un modelo de texto puro, un modelo que nunca antes había procesado imágenes puede clasificarlas con una precisión del **75,03 %**.
Los logros de Sakana AI reducen significativamente las barreras para que particulares y empresas personalicen modelos de IA privados. También allanan un nuevo camino hacia el desarrollo de una inteligencia artificial general (AGI) más ligera e inteligente.
Artículo: https://arxiv.org/pdf/2602.15902
Vals, respaldado por Andreessen, apunta al liderazgo en evaluación de benchmarks de IA
El benchmarking se ha convertido en el estándar de la industria para que las empresas de inteligencia artificial validen las capacidades de sus modelos, aprovechen métricas favorables para diferenciarse de la competencia y comercialicen su superiorid
El ejecutivo de Apple, John Ternus, afirma que el iPhone es el mejor dispositivo con inteligencia artificial
El próximo director ejecutivo de Apple, John Ternus, aclaró la estrategia de inteligencia artificial de la compañía durante el evento Sorpresa y Brillo del miércoles, afirmando que el iPhone ya es el dispositivo de IA principal y priorizando la priva
Qwen-Audio-3.0-TTS: El modelo de síntesis de voz a gran escala de Qwen reduce la demora del primer paquete a 300 ms
La competencia en tecnología de voz entre los principales desarrolladores de inteligencia artificial se ha intensificado con una nueva incorporación. El 20 de julio, Qwen lanzó su último modelo de síntesis de audio, Qwen-Audio-3.0-TTS, desplazando el











