Hogar
El iPhone 17 Pro ejecuta un modelo de 400B parámetros localmente a 0,6 tokens por segundo

¿Qué define el límite computacional de los smartphones modernos? El último buque insignia de Apple, el iPhone17Pro , ha proporcionado una respuesta tan impresionante como humillante.
El 23 de marzo, un modelo de lenguaje grande con 400 mil millones de parámetros se ejecutó con éxito en el iPhone17Pro . Cabe destacar que, incluso después de la cuantización, estos modelos suelen requerir al menos 200 GB de memoria, mientras que el iPhone17Pro está equipado con solo 12 GB de RAM LPDDR5X.
Innovación técnica: Transmisión de memoria flash y Mezcla de Expertos (MoE)
Superando las severas limitaciones de memoria, esta "hazaña imposible" se logró principalmente mediante dos estrategias técnicas clave:
SSD como memoria virtual: Aprovechando el proyecto de código abierto Flash-MoE, el dispositivo transmite datos directamente desde la unidad de estado sólido (SSD) a la GPU, evitando efectivamente las limitaciones de la memoria física.
Beneficios de la arquitectura MoE: "MoE" significa Mezcla de Expertos, un diseño en el que el sistema activa solo un subconjunto de los 400 mil millones de parámetros para cada palabra generada, en lugar de cargar todo el modelo.
Compensación del rendimiento: Velocidad de generación lenta
Aunque la ejecución fue exitosa, la experiencia del usuario sigue estando lejos de ser práctica. Los resultados de las pruebas indican:
Tasa de generación: La velocidad se limita a 0.6 tokens por segundo, lo que significa que tarda aproximadamente 1,5 a 2 segundos en producir una sola palabra.
Impacto energético y térmico: Este procesamiento local intensivo agota rápidamente la batería y genera un calor significativo.
Perspectiva de la industria: ¿Está alcanzando la IA local una "singularidad"?
A pesar de que la velocidad de generación actual es subóptima, la importancia simbólica de esta demostración supera su utilidad inmediata. Demuestra que ejecutar modelos a gran escala localmente en smartphones es un camino viable.
Privacidad mejorada: El procesamiento local asegura que los datos permanezcan en el dispositivo, eliminando la necesidad de subirlos a la nube y ofreciendo una privacidad superior.
Capacidad sin conexión: El acceso a respuestas de IA avanzadas sin conexión a Internet se está volviendo cada vez más factible.
Artículo relacionado
Google actualiza la aplicación Gemini para competir con ChatGPT y Claude en IO 2026
Durante el evento anual Google I/O del martes, Google presentó una serie de actualizaciones para la aplicación Gemini, introduciendo una función de “Resumen Diario”, una interfaz renovada, acceso al nuevo modelo de vídeo con IA Gemini Omni y un agent
Qianwen Creation desvela una membresía de 7 días con 200 puntos y herramientas de aceleración para la fotografía de viajes
Qwen Create ha lanzado oficialmente un plan de membresía de 7 días diseñado para tareas de creación con IA inmediatas y ligeras, incluyendo fotografía de viajes, marketing de eventos y contenido para redes sociales. Tras la compra, los usuarios recib
iOS 27.2 Beta trae una importante renovación de la aplicación Salud y Siri se amplía a cinco idiomas
Apple acaba de lanzar la primera beta de iOS 27.2 para desarrolladores. Saltándose la fase de prueba esperada de iOS 27.1, Apple lanzó directamente el ciclo de pruebas de la versión 27.2 el 16 de septiembre, publicando betas iniciales para iOS, iPadO
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

¿Qué define el límite computacional de los smartphones modernos? El último buque insignia de Apple, el
El 23 de marzo, un modelo de lenguaje grande con 400 mil millones de parámetros se ejecutó con éxito en el
Innovación técnica: Transmisión de memoria flash y Mezcla de Expertos (MoE)
Superando las severas limitaciones de memoria, esta "hazaña imposible" se logró principalmente mediante dos estrategias técnicas clave:
SSD como memoria virtual: Aprovechando el proyecto de código abierto Flash-MoE, el dispositivo transmite datos directamente desde la unidad de estado sólido (SSD) a la GPU, evitando efectivamente las limitaciones de la memoria física.
Beneficios de la arquitectura MoE: "MoE" significa Mezcla de Expertos, un diseño en el que el sistema activa solo un subconjunto de los 400 mil millones de parámetros para cada palabra generada, en lugar de cargar todo el modelo.
Compensación del rendimiento: Velocidad de generación lenta
Aunque la ejecución fue exitosa, la experiencia del usuario sigue estando lejos de ser práctica. Los resultados de las pruebas indican:
Tasa de generación: La velocidad se limita a 0.6 tokens por segundo, lo que significa que tarda aproximadamente 1,5 a 2 segundos en producir una sola palabra.
Impacto energético y térmico: Este procesamiento local intensivo agota rápidamente la batería y genera un calor significativo.
Perspectiva de la industria: ¿Está alcanzando la IA local una "singularidad"?
A pesar de que la velocidad de generación actual es subóptima, la importancia simbólica de esta demostración supera su utilidad inmediata. Demuestra que ejecutar modelos a gran escala localmente en smartphones es un camino viable.
Privacidad mejorada: El procesamiento local asegura que los datos permanezcan en el dispositivo, eliminando la necesidad de subirlos a la nube y ofreciendo una privacidad superior.
Capacidad sin conexión: El acceso a respuestas de IA avanzadas sin conexión a Internet se está volviendo cada vez más factible.
Google actualiza la aplicación Gemini para competir con ChatGPT y Claude en IO 2026
Durante el evento anual Google I/O del martes, Google presentó una serie de actualizaciones para la aplicación Gemini, introduciendo una función de “Resumen Diario”, una interfaz renovada, acceso al nuevo modelo de vídeo con IA Gemini Omni y un agent
Qianwen Creation desvela una membresía de 7 días con 200 puntos y herramientas de aceleración para la fotografía de viajes
Qwen Create ha lanzado oficialmente un plan de membresía de 7 días diseñado para tareas de creación con IA inmediatas y ligeras, incluyendo fotografía de viajes, marketing de eventos y contenido para redes sociales. Tras la compra, los usuarios recib
iOS 27.2 Beta trae una importante renovación de la aplicación Salud y Siri se amplía a cinco idiomas
Apple acaba de lanzar la primera beta de iOS 27.2 para desarrolladores. Saltándose la fase de prueba esperada de iOS 27.1, Apple lanzó directamente el ciclo de pruebas de la versión 27.2 el 16 de septiembre, publicando betas iniciales para iOS, iPadO











