奔騰4的復興:這款已有20年曆史的CPU能夠執行Meta Llama 3大型模型

最近,YouTube技術頻道Fully Buffered進行了一項令人印象深刻且極具挑戰性的實驗:他們成功地在2006年推出的Pentium 4 641處理器上執行了Meta最新的Llama 3.2 3B大型模型。
這項測試迫使現代人工智慧技術與二十年前的硬體裝置進行了碰撞,不僅揭示了大語言模型的基本相容性限制,還引發了眾多觀眾的思考:在人工智慧時代,摩爾定律是如何以這種不同尋常的方式實現跨代際應用的。
硬體考古學:將2006年的元件推向極限
為了完成這項測試,Fully Buffered團隊重新構建了一臺2006年典型的愛好者組裝電腦的硬體配置:
核心處理器:英特爾Pentium 4 641(3.2GHz,單核處理器,2MB L2快取)。
記憶體配置:華碩P5WDH Deluxe主機板搭配四塊2GB DDR2-800記憶體條,總容量為8GB。
軟體環境:團隊專門配置了一種無AVX模式的推理環境,以彌補這種老舊架構中缺乏AVX2指令的問題。
極慢的推理速度:每秒0.21個token
在測試過程中,當系統被問到“什麼是Pentium 4?”時,這款二十年前的單核處理器立即進入了滿負荷執行狀態。
輸出速度:該處理器的生成速度最低僅為每秒0.21個token。
所需時間:為了生成一個完整的答案,Pentium 4需要以最大負荷執行近33分鐘。
在當今人工智慧應用要求毫秒級響應的時代,33分鐘的等待時間簡直是一場災難。但對於這款NetBurst時代的單核晶片來說,這卻是人工智慧原理在老舊矽片上執行的20年漫長曆程。
超出實用範圍:測試人工智慧的相容性邊界
為什麼要在如此古老的硬體上執行人工智慧呢?測試團隊解釋說,他們的目的並非為了實際應用,而是要探究兩個關鍵的極限問題:
無AVX指令集的可行性:現代大型模型幾乎總是依賴AVX指令集來執行,但透過特定的推理模式,人工智慧仍然可以在沒有這些指令的情況下進行運算。
記憶體作為基礎:這個擁有30億個引數的模型勉強能夠適應8GB的DDR2記憶體容量,這一事實證明,即使計算能力極其有限,單核CPU也同樣可以支援現代的大語言模型,而無需依賴高階GPU的效能。
結語:NetBurst架構的最後篇章
早在2006年,英特爾的Pentium 4還在透過NetBurst架構追求更高的時脈頻率,當時人們更注重處理器的頻率而非能效。當時的工程師們或許預見到了未來強大處理器的時代,但他們肯定沒有想到,他們的這種架構會在二十年後被用來仔細回顧和詮釋自己的歷史。
這項實驗為人工智慧硬體生態系統提供了一個極端的參考點:計算能力決定了響應速度,但指令集的相容性和記憶體容量才是執行大型模型的真正關鍵因素。當Pentium 4最終在螢幕上輸出了自己的描述時,這不僅僅是一次成功的推理測試——更是計算機歷史上一段富有詩意的告別。
相關文章
阿里巴巴Tuhao M890上市,憑藉三重效能優勢開啟晶片-雲-模型-推理的全棧代理時代
2026年5月20日,在阿里雲峰會上,阿里雲宣佈完成了專為“智慧體時代”設計的全棧技術系統升級。這一變革重塑了整個技術體系——從底層晶片和雲平臺到模型與推理方案。此次升級使阿里雲成為一家能夠讓大量智慧體實現24/7連續執行的“AI工廠”,從而超越了單純為人類使用者提供服務的範疇。1. 核心基礎:騰迅振武M890晶片與超級節點伺服器此次升級的核心是騰迅推出的新一代AI晶片——振武M890,該晶片集訓練與推理功能於一體。效能提升:M890擁有144GB的記憶體,其效能是前代產品振武810E的三倍。
杭州市上城區推出了浙江省首個基於AIGC技術的視聽產業“黃金十項措施”,並設立了50億規模的產業發展基金。
16日,AIGC視聽產業創新生態大會在杭州上城區舉行。會議期間,該省推出了針對AIGC視聽產業的的首項專項政策——“黃金十項措施”。這項政策涵蓋了技術創新、成本降低、內容質量提升、人才培養以及全球發展等多個方面。這些政策提供了強有力的激勵措施。對於技術創新領域,凡是專注於AIGC工具、AI虛擬拍攝和AI互動敘事系統的研究開發專案,均可獲得最高300萬元的補貼。而對於高質量的內容創作,那些在年內透過知名平臺釋出的AIGC視聽作品,每部可獲得最高30萬元的獎勵,每家企業的年度獎勵總額上限為100萬
北京工業大學就包括人工智慧模型上下文協議在內的121項行業標準徵求公眾意見
中國工業和資訊化部正式釋出通知,徵求公眾對121項行業標準化的意見,其中包括“人工智慧安全治理模型上下文協議的應用安全要求”。這一公告標誌著中國在建立人工智慧基礎標準和安全監管框架方面取得了重要進展。此次公開徵求意見的重點是針對該模型上下文協議的應用安全問題,旨在透過標準化的技術規範來解決多模態互動、長文字處理以及跨平臺呼叫過程中出現的協議相容性和資料安全方面的問題。
相關專題推薦
評論 (0)
0/500

最近,YouTube技術頻道Fully Buffered進行了一項令人印象深刻且極具挑戰性的實驗:他們成功地在2006年推出的Pentium 4 641處理器上執行了Meta最新的Llama 3.2 3B大型模型。
這項測試迫使現代人工智慧技術與二十年前的硬體裝置進行了碰撞,不僅揭示了大語言模型的基本相容性限制,還引發了眾多觀眾的思考:在人工智慧時代,摩爾定律是如何以這種不同尋常的方式實現跨代際應用的。
硬體考古學:將2006年的元件推向極限
為了完成這項測試,Fully Buffered團隊重新構建了一臺2006年典型的愛好者組裝電腦的硬體配置:
核心處理器:英特爾Pentium 4 641(3.2GHz,單核處理器,2MB L2快取)。
記憶體配置:華碩P5WDH Deluxe主機板搭配四塊2GB DDR2-800記憶體條,總容量為8GB。
軟體環境:團隊專門配置了一種無AVX模式的推理環境,以彌補這種老舊架構中缺乏AVX2指令的問題。
極慢的推理速度:每秒0.21個token
在測試過程中,當系統被問到“什麼是Pentium 4?”時,這款二十年前的單核處理器立即進入了滿負荷執行狀態。
輸出速度:該處理器的生成速度最低僅為每秒0.21個token。
所需時間:為了生成一個完整的答案,Pentium 4需要以最大負荷執行近33分鐘。
在當今人工智慧應用要求毫秒級響應的時代,33分鐘的等待時間簡直是一場災難。但對於這款NetBurst時代的單核晶片來說,這卻是人工智慧原理在老舊矽片上執行的20年漫長曆程。
超出實用範圍:測試人工智慧的相容性邊界
為什麼要在如此古老的硬體上執行人工智慧呢?測試團隊解釋說,他們的目的並非為了實際應用,而是要探究兩個關鍵的極限問題:
無AVX指令集的可行性:現代大型模型幾乎總是依賴AVX指令集來執行,但透過特定的推理模式,人工智慧仍然可以在沒有這些指令的情況下進行運算。
記憶體作為基礎:這個擁有30億個引數的模型勉強能夠適應8GB的DDR2記憶體容量,這一事實證明,即使計算能力極其有限,單核CPU也同樣可以支援現代的大語言模型,而無需依賴高階GPU的效能。
結語:NetBurst架構的最後篇章
早在2006年,英特爾的Pentium 4還在透過NetBurst架構追求更高的時脈頻率,當時人們更注重處理器的頻率而非能效。當時的工程師們或許預見到了未來強大處理器的時代,但他們肯定沒有想到,他們的這種架構會在二十年後被用來仔細回顧和詮釋自己的歷史。
這項實驗為人工智慧硬體生態系統提供了一個極端的參考點:計算能力決定了響應速度,但指令集的相容性和記憶體容量才是執行大型模型的真正關鍵因素。當Pentium 4最終在螢幕上輸出了自己的描述時,這不僅僅是一次成功的推理測試——更是計算機歷史上一段富有詩意的告別。
阿里巴巴Tuhao M890上市,憑藉三重效能優勢開啟晶片-雲-模型-推理的全棧代理時代
2026年5月20日,在阿里雲峰會上,阿里雲宣佈完成了專為“智慧體時代”設計的全棧技術系統升級。這一變革重塑了整個技術體系——從底層晶片和雲平臺到模型與推理方案。此次升級使阿里雲成為一家能夠讓大量智慧體實現24/7連續執行的“AI工廠”,從而超越了單純為人類使用者提供服務的範疇。1. 核心基礎:騰迅振武M890晶片與超級節點伺服器此次升級的核心是騰迅推出的新一代AI晶片——振武M890,該晶片集訓練與推理功能於一體。效能提升:M890擁有144GB的記憶體,其效能是前代產品振武810E的三倍。
杭州市上城區推出了浙江省首個基於AIGC技術的視聽產業“黃金十項措施”,並設立了50億規模的產業發展基金。
16日,AIGC視聽產業創新生態大會在杭州上城區舉行。會議期間,該省推出了針對AIGC視聽產業的的首項專項政策——“黃金十項措施”。這項政策涵蓋了技術創新、成本降低、內容質量提升、人才培養以及全球發展等多個方面。這些政策提供了強有力的激勵措施。對於技術創新領域,凡是專注於AIGC工具、AI虛擬拍攝和AI互動敘事系統的研究開發專案,均可獲得最高300萬元的補貼。而對於高質量的內容創作,那些在年內透過知名平臺釋出的AIGC視聽作品,每部可獲得最高30萬元的獎勵,每家企業的年度獎勵總額上限為100萬
北京工業大學就包括人工智慧模型上下文協議在內的121項行業標準徵求公眾意見
中國工業和資訊化部正式釋出通知,徵求公眾對121項行業標準化的意見,其中包括“人工智慧安全治理模型上下文協議的應用安全要求”。這一公告標誌著中國在建立人工智慧基礎標準和安全監管框架方面取得了重要進展。此次公開徵求意見的重點是針對該模型上下文協議的應用安全問題,旨在透過標準化的技術規範來解決多模態互動、長文字處理以及跨平臺呼叫過程中出現的協議相容性和資料安全方面的問題。





首頁






