Swiftlet, un moteur d’exécution Swift + Metal, permet d’exécuter de grands modèles MoE tels que Qwen3.6-35B-A3B et Qwen3-Next-80B-A3B avec un minimum de mémoire, en ne conservant que le cœur dense en RAM tout en chargeant les poids experts à partir d’un SSD. Sur un Mac M5, le modèle 35B atteint un pic de 2,6 Go (7 à 11 tok/s), et le modèle 80B un pic de 4,3 Go (4,5 à 5 tok/s). La version 35B fonctionne également en mode natif sur un iPhone 17 avec environ 2,5 Go et 1 tok/s. Le système utilise un routage fin des tokens vers les experts, des récupérations sur SSD basées sur la pré-lecture, une mise en cache LFU et des shaders Metal compilés à l’exécution, prenant en charge le déploiement sur iOS et les interfaces serveur compatibles OpenAI.