OpenAI 釋出自主研發的 Jalapeno 晶片,效能測試超越 GB300

隨著全球算力格局經歷深刻重構,人工智慧領域的領軍企業正加速推進硬體供應商的多元化佈局。8月25日,OpenAI 公佈了其重要的硬體進展,其新研發的 Jalapeno 晶片在內部基準測試中表現優於 NVIDIA 當前的旗艦產品系列。
關鍵指標顯示顯著增益
作為大模型時代的領軍者,OpenAI 一直在積極加強其底層基礎設施建設。目前公開亮相的 Jalapeno 處理器在真實世界測試中展現了令人印象深刻的技術指標。
根據官方資料和測試結果,Jalapeno 晶片在兩個核心領域佔據領先地位:它在單位功耗處理 AI 工作負載時展現出卓越的能效,並實現了行業領先的資料響應速度。這些突破使得高併發、大吞吐量的生成式 AI 推理和訓練任務能夠高速執行,同時降低了能源成本。
AI 巨頭間的硬體自主權競賽
近年來,隨著大模型引數規模的指數級增長,算力成本和供應鏈安全已成為行業增長的關鍵瓶頸。包括 OpenAI 在內的主要參與者選擇自主研發專用晶片,旨在透過深度的軟硬體協同來突破算力限制。
行業分析師指出,Jalapeno 在多項測試中對 NVIDIA 當前旗艦硬體架構(如 GB300 系列)佔據主導地位,這不僅證明了 OpenAI 具備與傳統硬體巨頭在晶片設計領域直接競爭的能力,還將對全球半導體產業及算力市場格局產生深遠影響。隨著相關測試的推進和應用的持續落地,AI 基礎設施市場的競爭預計將進一步加劇。
相關文章
人工智慧初創公司加速收入增長
隨著成熟企業和新興初創公司競相利用人工智慧,眾多AI初創公司報告稱,其收入不僅正在增長,而且增速正在加快,實現後續里程碑的時間越來越短。以下初創公司展示了這種飛輪式增長的一致模式。需要注意的是,儘管這些公司都使用“ARR”這一術語,但其底層指標各不相同。有些公司指的是年化經常性收入(ARR),即來自付費客戶的合同收入但尚未開票。另一些公司使用年化執行率收入,根據最近一個月的收入率計算12個月的收入來預測年收入。少數公司指的是“承諾的ARR”,代表來自尚未入職客戶的已簽署合同。在Gusto的案例
騰訊混元將關鍵點大小理論整合到 PPO 強化學習中,使吞吐量提升 2.29 倍,並將 GRPO 訓練時間縮短 29%
隨著大模型強化學習擴充套件到更大的 GPU 叢集和更密集的訓練資料集,訓練效率已成為關鍵優先事項。騰訊混元團隊最近的研究解決了一個常被忽視的挑戰:當模型生成自己的訓練資料時,鑑於 rollout 生成和訓練的不同速度,應該如何重新定義批次大小(batch size)?該研究基於經典的關鍵批次大小(critical batch size)理論,重新推導了線上大語言模型強化學習中的這一概念。研究結果提供了一個實用解決方案:隨著批次大小的增加,在特定範圍內調整學習率,GRPO 和 PPO 演算法均可確保每
Replit的Amjad Masad談Cursor交易、與蘋果的競爭,以及他為何不願出售公司
阿賈德·馬薩德(Amjad Masad)在過去十年裡致力於構建 Replit,然而過去的 18 個月卻是一個變革性的時期。這家 AI 編碼平臺從 2024 年 280 萬美元的年收入激增,正朝著馬薩德所稱的“十億美元年度執行率”邁進。在週四晚於舊金山舉行的 TechCrunch 售罄的 StrictlyVC 活動上,我們進行了廣泛的討論,從業界迫切的問題開始:據報道,競爭對手 Cursor 正在與 SpaceX 洽談 600 億美元的收購案,那麼 Replit 是否也註定會被出售?我們還討論了
相關專題推薦
評論 (0)
0/500

隨著全球算力格局經歷深刻重構,人工智慧領域的領軍企業正加速推進硬體供應商的多元化佈局。8月25日,OpenAI 公佈了其重要的硬體進展,其新研發的 Jalapeno 晶片在內部基準測試中表現優於 NVIDIA 當前的旗艦產品系列。
關鍵指標顯示顯著增益
作為大模型時代的領軍者,OpenAI 一直在積極加強其底層基礎設施建設。目前公開亮相的 Jalapeno 處理器在真實世界測試中展現了令人印象深刻的技術指標。
根據官方資料和測試結果,Jalapeno 晶片在兩個核心領域佔據領先地位:它在單位功耗處理 AI 工作負載時展現出卓越的能效,並實現了行業領先的資料響應速度。這些突破使得高併發、大吞吐量的生成式 AI 推理和訓練任務能夠高速執行,同時降低了能源成本。
AI 巨頭間的硬體自主權競賽
近年來,隨著大模型引數規模的指數級增長,算力成本和供應鏈安全已成為行業增長的關鍵瓶頸。包括 OpenAI 在內的主要參與者選擇自主研發專用晶片,旨在透過深度的軟硬體協同來突破算力限制。
行業分析師指出,Jalapeno 在多項測試中對 NVIDIA 當前旗艦硬體架構(如 GB300 系列)佔據主導地位,這不僅證明了 OpenAI 具備與傳統硬體巨頭在晶片設計領域直接競爭的能力,還將對全球半導體產業及算力市場格局產生深遠影響。隨著相關測試的推進和應用的持續落地,AI 基礎設施市場的競爭預計將進一步加劇。
人工智慧初創公司加速收入增長
隨著成熟企業和新興初創公司競相利用人工智慧,眾多AI初創公司報告稱,其收入不僅正在增長,而且增速正在加快,實現後續里程碑的時間越來越短。以下初創公司展示了這種飛輪式增長的一致模式。需要注意的是,儘管這些公司都使用“ARR”這一術語,但其底層指標各不相同。有些公司指的是年化經常性收入(ARR),即來自付費客戶的合同收入但尚未開票。另一些公司使用年化執行率收入,根據最近一個月的收入率計算12個月的收入來預測年收入。少數公司指的是“承諾的ARR”,代表來自尚未入職客戶的已簽署合同。在Gusto的案例
騰訊混元將關鍵點大小理論整合到 PPO 強化學習中,使吞吐量提升 2.29 倍,並將 GRPO 訓練時間縮短 29%
隨著大模型強化學習擴充套件到更大的 GPU 叢集和更密集的訓練資料集,訓練效率已成為關鍵優先事項。騰訊混元團隊最近的研究解決了一個常被忽視的挑戰:當模型生成自己的訓練資料時,鑑於 rollout 生成和訓練的不同速度,應該如何重新定義批次大小(batch size)?該研究基於經典的關鍵批次大小(critical batch size)理論,重新推導了線上大語言模型強化學習中的這一概念。研究結果提供了一個實用解決方案:隨著批次大小的增加,在特定範圍內調整學習率,GRPO 和 PPO 演算法均可確保每
Replit的Amjad Masad談Cursor交易、與蘋果的競爭,以及他為何不願出售公司
阿賈德·馬薩德(Amjad Masad)在過去十年裡致力於構建 Replit,然而過去的 18 個月卻是一個變革性的時期。這家 AI 編碼平臺從 2024 年 280 萬美元的年收入激增,正朝著馬薩德所稱的“十億美元年度執行率”邁進。在週四晚於舊金山舉行的 TechCrunch 售罄的 StrictlyVC 活動上,我們進行了廣泛的討論,從業界迫切的問題開始:據報道,競爭對手 Cursor 正在與 SpaceX 洽談 600 億美元的收購案,那麼 Replit 是否也註定會被出售?我們還討論了





首頁






