奔騰4的復興:這款已有20年曆史的CPU能夠執行Meta Llama 3大型模型

最近,YouTube技術頻道Fully Buffered進行了一項令人印象深刻且極具挑戰性的實驗:他們成功地在2006年推出的Pentium 4 641處理器上執行了Meta最新的Llama 3.2 3B大型模型。
這項測試迫使現代人工智慧技術與二十年前的硬體裝置進行了碰撞,不僅揭示了大語言模型的基本相容性限制,還引發了眾多觀眾的思考:在人工智慧時代,摩爾定律是如何以這種不同尋常的方式實現跨代際應用的。
硬體考古學:將2006年的元件推向極限
為了完成這項測試,Fully Buffered團隊重新構建了一臺2006年典型的愛好者組裝電腦的硬體配置:
核心處理器:英特爾Pentium 4 641(3.2GHz,單核處理器,2MB L2快取)。
記憶體配置:華碩P5WDH Deluxe主機板搭配四塊2GB DDR2-800記憶體條,總容量為8GB。
軟體環境:團隊專門配置了一種無AVX模式的推理環境,以彌補這種老舊架構中缺乏AVX2指令的問題。
極慢的推理速度:每秒0.21個token
在測試過程中,當系統被問到“什麼是Pentium 4?”時,這款二十年前的單核處理器立即進入了滿負荷執行狀態。
輸出速度:該處理器的生成速度最低僅為每秒0.21個token。
所需時間:為了生成一個完整的答案,Pentium 4需要以最大負荷執行近33分鐘。
在當今人工智慧應用要求毫秒級響應的時代,33分鐘的等待時間簡直是一場災難。但對於這款NetBurst時代的單核晶片來說,這卻是人工智慧原理在老舊矽片上執行的20年漫長曆程。
超出實用範圍:測試人工智慧的相容性邊界
為什麼要在如此古老的硬體上執行人工智慧呢?測試團隊解釋說,他們的目的並非為了實際應用,而是要探究兩個關鍵的極限問題:
無AVX指令集的可行性:現代大型模型幾乎總是依賴AVX指令集來執行,但透過特定的推理模式,人工智慧仍然可以在沒有這些指令的情況下進行運算。
記憶體作為基礎:這個擁有30億個引數的模型勉強能夠適應8GB的DDR2記憶體容量,這一事實證明,即使計算能力極其有限,單核CPU也同樣可以支援現代的大語言模型,而無需依賴高階GPU的效能。
結語:NetBurst架構的最後篇章
早在2006年,英特爾的Pentium 4還在透過NetBurst架構追求更高的時脈頻率,當時人們更注重處理器的頻率而非能效。當時的工程師們或許預見到了未來強大處理器的時代,但他們肯定沒有想到,他們的這種架構會在二十年後被用來仔細回顧和詮釋自己的歷史。
這項實驗為人工智慧硬體生態系統提供了一個極端的參考點:計算能力決定了響應速度,但指令集的相容性和記憶體容量才是執行大型模型的真正關鍵因素。當Pentium 4最終在螢幕上輸出了自己的描述時,這不僅僅是一次成功的推理測試——更是計算機歷史上一段富有詩意的告別。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (0)
0/500

最近,YouTube技術頻道Fully Buffered進行了一項令人印象深刻且極具挑戰性的實驗:他們成功地在2006年推出的Pentium 4 641處理器上執行了Meta最新的Llama 3.2 3B大型模型。
這項測試迫使現代人工智慧技術與二十年前的硬體裝置進行了碰撞,不僅揭示了大語言模型的基本相容性限制,還引發了眾多觀眾的思考:在人工智慧時代,摩爾定律是如何以這種不同尋常的方式實現跨代際應用的。
硬體考古學:將2006年的元件推向極限
為了完成這項測試,Fully Buffered團隊重新構建了一臺2006年典型的愛好者組裝電腦的硬體配置:
核心處理器:英特爾Pentium 4 641(3.2GHz,單核處理器,2MB L2快取)。
記憶體配置:華碩P5WDH Deluxe主機板搭配四塊2GB DDR2-800記憶體條,總容量為8GB。
軟體環境:團隊專門配置了一種無AVX模式的推理環境,以彌補這種老舊架構中缺乏AVX2指令的問題。
極慢的推理速度:每秒0.21個token
在測試過程中,當系統被問到“什麼是Pentium 4?”時,這款二十年前的單核處理器立即進入了滿負荷執行狀態。
輸出速度:該處理器的生成速度最低僅為每秒0.21個token。
所需時間:為了生成一個完整的答案,Pentium 4需要以最大負荷執行近33分鐘。
在當今人工智慧應用要求毫秒級響應的時代,33分鐘的等待時間簡直是一場災難。但對於這款NetBurst時代的單核晶片來說,這卻是人工智慧原理在老舊矽片上執行的20年漫長曆程。
超出實用範圍:測試人工智慧的相容性邊界
為什麼要在如此古老的硬體上執行人工智慧呢?測試團隊解釋說,他們的目的並非為了實際應用,而是要探究兩個關鍵的極限問題:
無AVX指令集的可行性:現代大型模型幾乎總是依賴AVX指令集來執行,但透過特定的推理模式,人工智慧仍然可以在沒有這些指令的情況下進行運算。
記憶體作為基礎:這個擁有30億個引數的模型勉強能夠適應8GB的DDR2記憶體容量,這一事實證明,即使計算能力極其有限,單核CPU也同樣可以支援現代的大語言模型,而無需依賴高階GPU的效能。
結語:NetBurst架構的最後篇章
早在2006年,英特爾的Pentium 4還在透過NetBurst架構追求更高的時脈頻率,當時人們更注重處理器的頻率而非能效。當時的工程師們或許預見到了未來強大處理器的時代,但他們肯定沒有想到,他們的這種架構會在二十年後被用來仔細回顧和詮釋自己的歷史。
這項實驗為人工智慧硬體生態系統提供了一個極端的參考點:計算能力決定了響應速度,但指令集的相容性和記憶體容量才是執行大型模型的真正關鍵因素。當Pentium 4最終在螢幕上輸出了自己的描述時,這不僅僅是一次成功的推理測試——更是計算機歷史上一段富有詩意的告別。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






