Maison
L'iPhone 17 Pro exécute localement un modèle de 400 milliards de paramètres à 0,6 token par seconde

Qu’est-ce qui définit le plafond computationnel des smartphones modernes ? Le tout dernier flagship d’Apple, l’iPhone17Pro , a apporté une réponse aussi impressionnante qu’humiliante.
Le 23 mars, un modèle de langage large (LLM) comptant 400 milliards de paramètres a été exécuté avec succès sur l’iPhone17Pro . Il est à noter que, même après quantification, de tels modèles exigent généralement au moins 200 Go de mémoire, alors que l’iPhone17Pro n’est équipé que de 12 Go de RAM LPDDR5X.
Innovation technique : Streaming de la mémoire flash et Mélange d’experts (MoE)
Pour surmonner des contraintes mémoire sévères, cette « prouesse impossible » a été réalisée principalement grâce à deux stratégies techniques clés :
SSD comme mémoire virtuelle : En s’appuyant sur le projet open-source Flash-MoE, l’appareil effectue un streaming des données directement depuis le disque SSD vers le GPU, contournant ainsi les limites de la mémoire physique.
Avantages de l’architecture MoE : « MoE » signifie Mélange d’experts (Mixture of Experts), une conception dans laquelle le système n’active qu’un sous-ensemble des 400 milliards de paramètres pour chaque mot généré, plutôt que de charger l’intégralité du modèle.
Compromis en matière de performances : Vitesse de génération lente
Bien que l’exécution ait été couronnée de succès, l’expérience utilisateur reste loin d’être pratique. Les résultats des tests indiquent :
Taux de génération : La vitesse est limitée à 0,6 jetons par seconde, ce qui signifie qu’il faut environ 1,5 à 2 secondes pour produire un seul mot.
Impact sur l’énergie et la thermique : Ce traitement local intensif épuise rapidement la batterie et génère une chaleur importante.
Perspective de l’industrie : L’IA locale atteint-elle une « singularité » ?
Bien que la vitesse de génération actuelle soit sous-optimale, l’importance symbolique de cette démonstration dépasse son utilité immédiate. Elle prouve que l’exécution de modèles à grande échelle localement sur des smartphones constitue une voie viable.
Confidentialité améliorée : Le traitement local garantit que les données restent sur l’appareil, éliminant le besoin de téléchargements vers le cloud et offrant une confidentialité supérieure.
Capacité hors ligne : L’accès à des réponses IA avancées sans connexion Internet devient de plus en plus réalisable.
Article connexe
Google met à jour l'application Gemini pour rivaliser avec ChatGPT et Claude lors de l'événement IO 2026
Lors de l’événement annuel Google I/O de mardi, Google a dévoilé une série de mises à jour pour l’application Gemini, introduisant une fonctionnalité « Résumé quotidien », une interface repensée, l’accès au nouveau modèle vidéo IA Gemini Omni, ainsi
Qianwen Creation dévoile une adhésion de 7 jours avec 200 points et des outils accélérés pour la photographie de voyage
Qwen Create a officiellement lancé un plan d’abonnement de 7 jours conçu pour des tâches de création par IA immédiates et légères, notamment la photographie de voyage, le marketing événementiel et la création de contenu pour les réseaux sociaux. Aprè
iOS 27.2 Beta apporte une refonte majeure de l’application Santé et Siri s’étend à cinq langues
Apple vient de publier la première bêta d’iOS 27.2 pour les développeurs. En sautant la phase de test iOS 27.1 prévue, Apple a lancé directement le cycle de test 27.2 le 16 septembre, en publiant simultanément les premières versions bêta pour iOS, iP
Recommandations de sujets spéciaux liés
commentaires (0)

Qu’est-ce qui définit le plafond computationnel des smartphones modernes ? Le tout dernier flagship d’Apple, l’
Le 23 mars, un modèle de langage large (LLM) comptant 400 milliards de paramètres a été exécuté avec succès sur l’
Innovation technique : Streaming de la mémoire flash et Mélange d’experts (MoE)
Pour surmonner des contraintes mémoire sévères, cette « prouesse impossible » a été réalisée principalement grâce à deux stratégies techniques clés :
SSD comme mémoire virtuelle : En s’appuyant sur le projet open-source Flash-MoE, l’appareil effectue un streaming des données directement depuis le disque SSD vers le GPU, contournant ainsi les limites de la mémoire physique.
Avantages de l’architecture MoE : « MoE » signifie Mélange d’experts (Mixture of Experts), une conception dans laquelle le système n’active qu’un sous-ensemble des 400 milliards de paramètres pour chaque mot généré, plutôt que de charger l’intégralité du modèle.
Compromis en matière de performances : Vitesse de génération lente
Bien que l’exécution ait été couronnée de succès, l’expérience utilisateur reste loin d’être pratique. Les résultats des tests indiquent :
Taux de génération : La vitesse est limitée à 0,6 jetons par seconde, ce qui signifie qu’il faut environ 1,5 à 2 secondes pour produire un seul mot.
Impact sur l’énergie et la thermique : Ce traitement local intensif épuise rapidement la batterie et génère une chaleur importante.
Perspective de l’industrie : L’IA locale atteint-elle une « singularité » ?
Bien que la vitesse de génération actuelle soit sous-optimale, l’importance symbolique de cette démonstration dépasse son utilité immédiate. Elle prouve que l’exécution de modèles à grande échelle localement sur des smartphones constitue une voie viable.
Confidentialité améliorée : Le traitement local garantit que les données restent sur l’appareil, éliminant le besoin de téléchargements vers le cloud et offrant une confidentialité supérieure.
Capacité hors ligne : L’accès à des réponses IA avancées sans connexion Internet devient de plus en plus réalisable.
Google met à jour l'application Gemini pour rivaliser avec ChatGPT et Claude lors de l'événement IO 2026
Lors de l’événement annuel Google I/O de mardi, Google a dévoilé une série de mises à jour pour l’application Gemini, introduisant une fonctionnalité « Résumé quotidien », une interface repensée, l’accès au nouveau modèle vidéo IA Gemini Omni, ainsi
Qianwen Creation dévoile une adhésion de 7 jours avec 200 points et des outils accélérés pour la photographie de voyage
Qwen Create a officiellement lancé un plan d’abonnement de 7 jours conçu pour des tâches de création par IA immédiates et légères, notamment la photographie de voyage, le marketing événementiel et la création de contenu pour les réseaux sociaux. Aprè
iOS 27.2 Beta apporte une refonte majeure de l’application Santé et Siri s’étend à cinq langues
Apple vient de publier la première bêta d’iOS 27.2 pour les développeurs. En sautant la phase de test iOS 27.1 prévue, Apple a lancé directement le cycle de test 27.2 le 16 septembre, en publiant simultanément les premières versions bêta pour iOS, iP











