Pentium 4 Revival : Un processeur vieux de 20 ans permet d’exécuter le modèle Meta Llama 3 Large

Récemment, la chaîne technique YouTube Fully Buffered a mené une expérience impressionnante et poussée : elle a réussi à faire fonctionner le dernier modèle de grande taille de Meta, Llama 3.2 3B, sur un processeur Pentium 4 641, un circuit électronique sorti en 2006.

Cet essai a contraint l’intelligence artificielle moderne à interagir avec du matériel vieux de deux décennies, révélant non seulement les limites fondamentales de compatibilité des grands modèles d’IA, mais incitant également de nombreux téléspectateurs à réfléchir à la manière dont la loi de Moore, dans l’ère de l’IA, a réussi à réaliser une sorte de “poignée de main” entre générations de manière inhabituelle.

Archéologie du matériel : Pousser les composants de 2006 à leurs limites

Pour mener cet essai, l’équipe de Fully Buffered a reconstitué les capacités matérielles d’une configuration typique pour amateurs en 2006 :

Processeur central : Intel Pentium 4 641 (3,2 GHz, cœur unique, cache L2 de 2 Mo).

Configuration mémoire : Carte mère ASUS P5WDH Deluxe associée à quatre modules de mémoire DDR2-800 de 2 Go chacun, pour un total de 8 Go.

Environnement logiciel : L’équipe a spécifiquement configuré un environnement d’inférence en mode sans instructions AVX, afin de contourner l’absence de ces instructions dans cette architecture plus ancienne.

Inférence à une vitesse extrêmement lente : 0,21 token par seconde

Lors de l’essai, lorsque le système a été interrogé “Qu’est-ce qu’un Pentium 4 ?”, ce processeur monocœur vieux de deux décennies est immédiatement passé en charge maximale.

Vitesse de sortie : Le taux de génération de résultats a atteint un minimum de 0,21 token par seconde.

Temps nécessaire : Pour produire une réponse complète, le Pentium 4 a fonctionné à pleine charge pendant près de 33 minutes.

Aujourd’hui, dans un contexte où les applications d’IA exigent des réponses en millisecondes, un temps d’attente de 33 minutes semble tout simplement insupportable. Mais pour ce processeur monocœur de l’époque NetBurst, il s’agissait d’une véritable “marathon” de 20 ans, où les principes de l’IA fonctionnaient sur du silicium obsolète.

Au-delà de la praticité : Tester les limites de compatibilité de l’IA

Pourquoi utiliser un matériel aussi ancien pour tester l’IA ? L’équipe d’essai a expliqué que l’objectif n’était pas une utilisation pratique, mais plutôt de探er deux limites cruciales :

Viabilité du jeu d’instructions sans AVX : Les grands modèles d’IA modernes prennent presque toujours en compte le support des instructions AVX, mais avec un mode d’inférence spécifique, il est encore possible pour l’IA de fonctionner sans ces instructions.

La mémoire en tant que fondement : Le modèle à 3 milliards de paramètres a tout juste pu tenir dans 8 Go de mémoire DDR2, ce qui prouve qu’une CPU monocœur peut toujours prendre en charge des grands modèles d’IA modernes, même avec des capacités de calcul très limitées, sans avoir recours à des GPU de haut niveau.

Epilogue : Le dernier chapitre de l’architecture NetBurst

En 2006, le Pentium 4 d’Intel poursuivait encore l’objectif d’atteindre des fréquences élevées grâce à l’architecture NetBurst, donnant la priorité à la vitesse sur l’efficacité. Les ingénieurs de l’époque avaient peut-être prévu l’avènement d’une ère de processeurs puissants, mais ils n’auraient probablement jamais imaginé que leur architecture serait, deux décennies plus tard, utilisée pour rédiger elle-même son propre histoire.

Cet essai offre un point de référence extrême pour l’écosystème matérieliel de l’IA : La puissance de calcul détermine la vitesse de réponse, mais la compatibilité du jeu d’instructions et la capacité de mémoire sont les véritables clés pour faire fonctionner des grands modèles d’IA. Lorsque le Pentium 4 a finalement affiché sa propre description à l’écran, ce n’était pas seulement un succès en termes d’inférence – c’était aussi un adieu poétique dans l’histoire de l’informatique.