Pentium 4 Revival: Uma CPU com 20 Anos de História Executa o Modelo Grande Meta Llama 3

Recentemente, o canal técnico do YouTube Fully Buffered realizou um experimento impressionante e rigoroso: conseguiu executar com sucesso o mais recente modelo grande da Meta, Llama 3.2 3B, em um processador Pentium 4 641, um chip lançado em 2006.

Este teste forçou a inteligência artificial moderna a interagir com hardware de duas décadas atrás, revelando não apenas os limites fundamentais de compatibilidade dos grandes modelos de IA, mas também fazendo muitos espectadores refletirem sobre como a Lei de Moore na era da IA conseguiu alcançar uma espécie de “encontro intergeracional” de maneira inusitada.

Arqueologia de Hardware: Levando Componentes de 2006 aos Seus Limites

Para realizar este teste, a equipe do Fully Buffered recriou o limite de hardware de um sistema típico para entusiastas de 2006:

Processador Principal: Intel Pentium 4 641 (3,2 GHz, single-core, 2 MB de cache L2).

Configuração de Memória: Placa-mãe ASUS P5WDH Deluxe combinada com quatro módulos de memória DDR2-800 de 2 GB cada, totalizando 8 GB.

Ambiente de Software: A equipe configurou especificamente um ambiente de inferência em modo sem AVX, para contornar a falta das instruções AVX2 nessa arquitetura mais antiga.

Inferência Lenta: 0,21 Tokens por Segundo

Durante o teste, quando o sistema foi questionado “O que é um Pentium 4?”, esse processador single-core de duas décadas imediatamente atingiu sua carga máxima.

Velocidade de Saída: A taxa de geração de respostas ficou em 0,21 tokens por segundo.

Tempo Necessário: Para produzir uma resposta completa, o Pentium 4 operou em carga máxima por quase 33 minutos.

No contexto atual das aplicações de IA que exigem respostas em milissegundos, um esperaço de 33 minutos parece absolutamente insuportável. Mas para esse chip single-core da era NetBurst, foi uma maratona de 20 anos dos princípios da IA funcionando em silício obsoleto.

Além da Praticidade: Testando os Limites de Compatibilidade da IA

Por que executar a IA em hardware tão antigo? A equipe de teste explicou que o objetivo não era o uso prático, mas sim explorar dois limites críticos:

Viabilidade do Conjunto de Instruções sem AVX: Os modelos grandes modernos quase sempre assumem suporte para AVX, mas com um modo específico de inferência, a IA ainda pode funcionar sem essas instruções.

A Memória como Fundação: O modelo com 3 bilhões de parâmetros mal cabia em 8 GB de memória DDR2, provando que, mesmo com poder computacional extremamente limitado, um processador single-core ainda pode suportar grandes modelos de IA sem depender da potência de uma GPU de alto nível.

Epílogo: O Último Capítulo da Arquitetura NetBurst

Em 2006, o Intel Pentium 4 ainda buscava altas frequências com a arquitetura NetBurst, dando prioridade à velocidade em detrimento da eficiência. Os engenheiros da época provavelmente previram a chegada de uma era de processadores poderosos, mas certamente nunca imaginaram que sua arquitetura, vinte anos depois, seria usada para relatar sua própria história.

Este experimento oferece um ponto de referência extremo para o ecossistema de hardware de IA: O poder computacional determina a velocidade de resposta, mas a compatibilidade do conjunto de instruções e a capacidade de memória são os verdadeiros fatores essenciais para executar grandes modelos. Quando o Pentium 4 finalmente conseguiu exibir sua própria descrição na tela, não foi apenas um sucesso na inferência — foi também uma despedida poética na história da computação.