Hogar
La arquitectura PHOTON de Fujitsu multiplica por 475 el rendimiento de la IA y resuelve los cuellos de botella en el procesamiento
A medida que los modelos de gran tamaño siguen evolucionando rápidamente, los costes informáticos y la eficiencia en el procesamiento siguen siendo preocupaciones clave del sector. Fujitsu ha presentado recientemente una novedosa arquitectura denominada PHOTON (Top-down Network Parallel Hierarchical Computing), diseñada para superar las limitaciones de rendimiento de los modelos Transformer tradicionales en escenarios complejos.
La arquitectura Transformer, que actualmente predomina en el ámbito de la IA, gestiona bien textos largos o tareas de consultas múltiples con alta concurrencia, pero a menudo se ralentiza debido a los frecuentes accesos a la memoria para recuperar información histórica, lo que aumenta la carga de trabajo de la GPU. El equipo de investigación de Fujitsu abordó este punto débil replanteándose el diseño de la arquitectura PHOTON.

La principal ventaja de PHOTON reside en su enfoque de procesamiento jerárquico. En lugar de la segmentación a nivel de token utilizada por los «Transformers» tradicionales, PHOTON introduce capas semánticas, lo que reduce la complejidad computacional al tiempo que potencia la computación paralela. Además, para tareas de consultas múltiples, la arquitectura agiliza la toma de decisiones: solo necesita una única inferencia para llegar a una conclusión, utilizando estrategias de «votación por mayoría» o de «mejor elección».
Los resultados de las pruebas muestran que, en modelos más pequeños con 600 millones, 900 millones y 1.2 mil millones de parámetros, PHOTON ofrece un rendimiento muy elevado y un consumo de memoria extremadamente bajo. En el modelo de 1.2B parámetros, su rendimiento en consultas múltiples alcanza 475 veces el de las arquitecturas Transformer convencionales, lo que mejora significativamente la eficiencia en la planificación de recursos.
Dado que esta arquitectura requiere menos caché KV por iteración, el sistema puede gestionar más iteraciones. Esto supone un importante aumento del rendimiento para los sistemas de agentes inteligentes que gestionan numerosos procesos de E/S. Aunque algunas métricas de calidad registran un ligero compromiso, el salto de PHOTON en eficiencia computacional lo convierte en una solución técnica prometedora para reducir los costes operativos de la IA.
Fujitsu está promoviendo activamente la aplicación de esta arquitectura, con el objetivo de proporcionar un soporte subyacente más ligero y eficiente para futuros escenarios inteligentes a través de innovaciones en los algoritmos centrales.
Artículo relacionado
La IA de Cognition en conversaciones de financiación mientras la valoración se dispara a 40.000 millones de dólares
Cognition, creadora del aclamado asistente de codificación con inteligencia artificial Devin, ha captado un interés considerable por parte de inversores. Fuentes del sector indican que la empresa está actualmente negociando una nueva ronda de financi
OpenAI presenta el modelo base bajo el nuevo proyecto de preentrenamiento Doug
As la tecnología de inteligencia artificial continúa evolucionando, el enfoque de la industria en la arquitectura subyacente de los grandes modelos base nunca ha disminuido. Recientemente, un usuario de X que ha seguido de cerca los avances en grande
Estudio de Deltek: el 91 % de las empresas considera que la inteligencia artificial es fundamental para el éxito
Un estudio de Deltek revela que, aunque las empresas de proyectos prevén mayores beneficios, las deficiencias en la ejecución limitan actualmente el impacto cuantificable de la IA. Crédito: Nitat Term
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
A medida que los modelos de gran tamaño siguen evolucionando rápidamente, los costes informáticos y la eficiencia en el procesamiento siguen siendo preocupaciones clave del sector. Fujitsu ha presentado recientemente una novedosa arquitectura denominada PHOTON (Top-down Network Parallel Hierarchical Computing), diseñada para superar las limitaciones de rendimiento de los modelos Transformer tradicionales en escenarios complejos.
La arquitectura Transformer, que actualmente predomina en el ámbito de la IA, gestiona bien textos largos o tareas de consultas múltiples con alta concurrencia, pero a menudo se ralentiza debido a los frecuentes accesos a la memoria para recuperar información histórica, lo que aumenta la carga de trabajo de la GPU. El equipo de investigación de Fujitsu abordó este punto débil replanteándose el diseño de la arquitectura PHOTON.

La principal ventaja de PHOTON reside en su enfoque de procesamiento jerárquico. En lugar de la segmentación a nivel de token utilizada por los «Transformers» tradicionales, PHOTON introduce capas semánticas, lo que reduce la complejidad computacional al tiempo que potencia la computación paralela. Además, para tareas de consultas múltiples, la arquitectura agiliza la toma de decisiones: solo necesita una única inferencia para llegar a una conclusión, utilizando estrategias de «votación por mayoría» o de «mejor elección».
Los resultados de las pruebas muestran que, en modelos más pequeños con 600 millones, 900 millones y 1.2 mil millones de parámetros, PHOTON ofrece un rendimiento muy elevado y un consumo de memoria extremadamente bajo. En el modelo de 1.2B parámetros, su rendimiento en consultas múltiples alcanza 475 veces el de las arquitecturas Transformer convencionales, lo que mejora significativamente la eficiencia en la planificación de recursos.
Dado que esta arquitectura requiere menos caché KV por iteración, el sistema puede gestionar más iteraciones. Esto supone un importante aumento del rendimiento para los sistemas de agentes inteligentes que gestionan numerosos procesos de E/S. Aunque algunas métricas de calidad registran un ligero compromiso, el salto de PHOTON en eficiencia computacional lo convierte en una solución técnica prometedora para reducir los costes operativos de la IA.
Fujitsu está promoviendo activamente la aplicación de esta arquitectura, con el objetivo de proporcionar un soporte subyacente más ligero y eficiente para futuros escenarios inteligentes a través de innovaciones en los algoritmos centrales.
La IA de Cognition en conversaciones de financiación mientras la valoración se dispara a 40.000 millones de dólares
Cognition, creadora del aclamado asistente de codificación con inteligencia artificial Devin, ha captado un interés considerable por parte de inversores. Fuentes del sector indican que la empresa está actualmente negociando una nueva ronda de financi
OpenAI presenta el modelo base bajo el nuevo proyecto de preentrenamiento Doug
As la tecnología de inteligencia artificial continúa evolucionando, el enfoque de la industria en la arquitectura subyacente de los grandes modelos base nunca ha disminuido. Recientemente, un usuario de X que ha seguido de cerca los avances en grande
Estudio de Deltek: el 91 % de las empresas considera que la inteligencia artificial es fundamental para el éxito
Un estudio de Deltek revela que, aunque las empresas de proyectos prevén mayores beneficios, las deficiencias en la ejecución limitan actualmente el impacto cuantificable de la IA. Crédito: Nitat Term











