Pentium 4 Revival: Ein 20 Jahre alter Prozessor läuft das Meta Llama 3 Large Model

Kürzlich führte der YouTube-Technikkanal Fully Buffered ein beeindruckendes und anspruchsvolles Experiment durch: Es gelang, Metas neuestes großes Modell Llama 3.2 3B erfolgreich auf dem Pentium 4 641-Prozessor zu betreiben – einem Chip, der im Jahr 2006 auf den Markt kam.

Dieser Test zwang das moderne künstliche Intelligenzsystem, mit Hardware aus zwei Jahrzehnten zu interagieren. Er zeigte nicht nur die grundlegenden Kompatibilitätsbegrenzungen großer LLM-Modelle auf, sondern brachte auch viele Zuschauer dazu, darüber nachzudenken, wie Moores Gesetz in der Ära des künstlichen Intelligenzes auf diese ungewöhnliche Weise eine Art „Überbrückung zwischen verschiedenen Generationen“ ermöglicht hat.

Hardware-Archäologie: Die Grenzen von Komponenten aus dem Jahr 2006 austesten

Um diesen Test durchzuführen, erstellte das Team von Fully Buffered eine Hardwarekonfiguration, die einer typischen Enthusiasten-Bauweise aus dem Jahr 2006 entsprach:

Zentralprozessor: Intel Pentium 4 641 (3,2 GHz, Einzelkern, 2 MB L2-Cache).

Speicherausstattung: ASUS P5WDH Deluxe-Mainboard in Kombination mit vier 2 GB großen DDR2-800-Speichermodulen – insgesamt 8 GB.

Softwareumgebung: Das Team konfigurierte speziell eine „No-AVX-Modus“-Inferenzumgebung, um die fehlenden AVX2-Befehle dieser älteren Architektur zu umgehen.

Die langsame Leistung: 0,21 Tokens pro Sekunde

Während des Tests wurde dem System die Frage gestellt: „Was ist ein Pentium 4?“ Sofort ging der zwanzig Jahre alte Einzelkernprozessor auf volle Leistung.

Ausgabegeschwindigkeit: Die Generierungsrate erreichte einen Tiefstwert von 0,21 Tokens pro Sekunde.

Zeitaufwand: Um eine vollständige Antwort zu liefern, arbeitete der Pentium 4 nahezu 33 Minuten lang auf Höchstleistung.

In der heutigen Welt der künstlichen Intelligenzanwendungen, die Millisekunden schnelle Reaktionen erfordern, erscheint eine Wartezeit von 33 Minuten als katastrophal. Für diesen Einzelkernprozessor aus der NetBurst-Ära hingegen bedeutete dies einen 20-jährigen „Marathon“ der künstlichen Intelligenz auf veralteter Hardware.

Jenseits der Praktikabilität: Die Grenzen der Kompatibilität von künstlicher Intelligenz testen

Warum wird künstliche Intelligenz auf solch antiker Hardware ausgeführt? Das Testteam erklärte, dass es nicht um die praktische Anwendung ging, sondern darum, zwei entscheidende Grenzen zu untersuchen:

Überlebensfähigkeit ohne AVX-Befehle: Moderne große LLM-Modelle setzen in der Regel auf AVX-Unterstützung, aber mit einer speziellen Inferenzmethode kann künstliche Intelligenz auch ohne diese Befehle funktionieren.

Speicher als Grundlage: Das 3-Milliarden-Parameter-Modell passte gerade so in 8 GB DDR2-Speicher – dies bewies, dass selbst mit extrem begrenzter Rechenleistung ein Einzelkern-Prozessor moderne LLM-Modelle ohne die Hilfe einer hochleistungsstarken GPU unterstützen kann.

Epilog: Das letzte Kapitel der NetBurst-Architektur

Im Jahr 2006 setzte Intel mit der NetBurst-Architektur weiterhin auf hohe Taktfrequenzen und vernachlässigte dabei die Effizienz. Die Ingenieure jener Zeit mochten vielleicht bereits die Ära leistungsstarker Prozessoren vorausgesehen haben, aber sie hätten sicherlich nicht gedacht, dass ihre Architektur zwei Jahrzehnte später noch einmal ihre eigene Geschichte „lesen“ und beschreiben würde.

Dieses Experiment bietet einen extremen Vergleichspunkt für das Ökosystem der künstlichen Intelligenz-Hardware: Rechenleistung bestimmt die Reaktionsgeschwindigkeit, aber die Kompatibilität des Befehlssets und die Speicherkapazität sind die wahren Schlüssel zum Betrieb großer LLM-Modelle. Als der Pentium 4 schließlich seine eigene Beschreibung auf dem Bildschirm ausgab, war das nicht nur ein erfolgreicher Test – es war auch ein poetischer Abschied in der Geschichte der Informatik.