騰訊混元將關鍵點大小理論整合到 PPO 強化學習中,使吞吐量提升 2.29 倍,並將 GRPO 訓練時間縮短 29%

隨著大模型強化學習擴充套件到更大的 GPU 叢集和更密集的訓練資料集,訓練效率已成為關鍵優先事項。騰訊混元團隊最近的研究解決了一個常被忽視的挑戰:當模型生成自己的訓練資料時,鑑於 rollout 生成和訓練的不同速度,應該如何重新定義批次大小(batch size)?
該研究基於經典的關鍵批次大小(critical batch size)理論,重新推導了線上大語言模型強化學習中的這一概念。研究結果提供了一個實用解決方案:隨著批次大小的增加,在特定範圍內調整學習率,GRPO 和 PPO 演算法均可確保每個響應都能有效學習而不會被稀釋。這表明批次大小並非“越大越好”,也不是固定值;相反,它存在於一個最佳範圍內,可以透過微調以實現最大效率。
對實際硬體成本的影響是巨大的。在固定的硬體配置下,增加批次大小可以將 PPO 的生成吞吐量提高多達 2.29 倍。同時,最佳的 GRPO 配置實現相同的驗證目標所需時間減少了 29%。對於大量投入 GPU 資源的團隊而言,這意味著可以使用相同的叢集更快地完成任務,或在相同時間內處理更多資料,從而有效降低強化學習中最昂貴階段的成本。
這項研究為擴充套件線上強化學習提供了實用槓桿,其中模型既是學生也是出題者。效率差距源於生成和訓練規模之間的不匹配,本研究透過結合關鍵批次大小理論和學習率調整來彌合這一差距。當行業競相構建最大規模的模型時,騰訊混元正專注於最佳化現有硬體,以提高成本效益。
相關文章
小學生畫鬍子騙過AI年齡驗證,令矽谷工程師啞口無言
在全球監管日益收緊的背景下,主要社交網路已實施嚴格的年齡驗證協議,以限制未成年人訪問特定功能。為保護使用者隱私,許多平臺採用了一種創新的裝置端面部年齡估算系統。然而,諷刺的是,這項先進技術最近卻被線上“業餘專家”以極其低科技的手段輕鬆繞過。簡單的繪畫和假鬍鬚成功透過驗證在一項旨在測試 AI 能力的輕鬆實驗中,一名 12 歲男孩用眉筆在嘴唇上方畫了鬍子,被準確估算為 15 歲,成功透過了驗證。更有趣的是,一些使用者僅僅在拇指上畫了兩個點和一條線來代表眼睛和嘴巴。當按照提示左右移動頭部時,AI 判定該主
人工智慧初創公司加速收入增長
隨著成熟企業和新興初創公司競相利用人工智慧,眾多AI初創公司報告稱,其收入不僅正在增長,而且增速正在加快,實現後續里程碑的時間越來越短。以下初創公司展示了這種飛輪式增長的一致模式。需要注意的是,儘管這些公司都使用“ARR”這一術語,但其底層指標各不相同。有些公司指的是年化經常性收入(ARR),即來自付費客戶的合同收入但尚未開票。另一些公司使用年化執行率收入,根據最近一個月的收入率計算12個月的收入來預測年收入。少數公司指的是“承諾的ARR”,代表來自尚未入職客戶的已簽署合同。在Gusto的案例
Replit的Amjad Masad談Cursor交易、與蘋果的競爭,以及他為何不願出售公司
阿賈德·馬薩德(Amjad Masad)在過去十年裡致力於構建 Replit,然而過去的 18 個月卻是一個變革性的時期。這家 AI 編碼平臺從 2024 年 280 萬美元的年收入激增,正朝著馬薩德所稱的“十億美元年度執行率”邁進。在週四晚於舊金山舉行的 TechCrunch 售罄的 StrictlyVC 活動上,我們進行了廣泛的討論,從業界迫切的問題開始:據報道,競爭對手 Cursor 正在與 SpaceX 洽談 600 億美元的收購案,那麼 Replit 是否也註定會被出售?我們還討論了
相關專題推薦
評論 (0)
0/500

隨著大模型強化學習擴充套件到更大的 GPU 叢集和更密集的訓練資料集,訓練效率已成為關鍵優先事項。騰訊混元團隊最近的研究解決了一個常被忽視的挑戰:當模型生成自己的訓練資料時,鑑於 rollout 生成和訓練的不同速度,應該如何重新定義批次大小(batch size)?
該研究基於經典的關鍵批次大小(critical batch size)理論,重新推導了線上大語言模型強化學習中的這一概念。研究結果提供了一個實用解決方案:隨著批次大小的增加,在特定範圍內調整學習率,GRPO 和 PPO 演算法均可確保每個響應都能有效學習而不會被稀釋。這表明批次大小並非“越大越好”,也不是固定值;相反,它存在於一個最佳範圍內,可以透過微調以實現最大效率。
對實際硬體成本的影響是巨大的。在固定的硬體配置下,增加批次大小可以將 PPO 的生成吞吐量提高多達 2.29 倍。同時,最佳的 GRPO 配置實現相同的驗證目標所需時間減少了 29%。對於大量投入 GPU 資源的團隊而言,這意味著可以使用相同的叢集更快地完成任務,或在相同時間內處理更多資料,從而有效降低強化學習中最昂貴階段的成本。
這項研究為擴充套件線上強化學習提供了實用槓桿,其中模型既是學生也是出題者。效率差距源於生成和訓練規模之間的不匹配,本研究透過結合關鍵批次大小理論和學習率調整來彌合這一差距。當行業競相構建最大規模的模型時,騰訊混元正專注於最佳化現有硬體,以提高成本效益。
小學生畫鬍子騙過AI年齡驗證,令矽谷工程師啞口無言
在全球監管日益收緊的背景下,主要社交網路已實施嚴格的年齡驗證協議,以限制未成年人訪問特定功能。為保護使用者隱私,許多平臺採用了一種創新的裝置端面部年齡估算系統。然而,諷刺的是,這項先進技術最近卻被線上“業餘專家”以極其低科技的手段輕鬆繞過。簡單的繪畫和假鬍鬚成功透過驗證在一項旨在測試 AI 能力的輕鬆實驗中,一名 12 歲男孩用眉筆在嘴唇上方畫了鬍子,被準確估算為 15 歲,成功透過了驗證。更有趣的是,一些使用者僅僅在拇指上畫了兩個點和一條線來代表眼睛和嘴巴。當按照提示左右移動頭部時,AI 判定該主
人工智慧初創公司加速收入增長
隨著成熟企業和新興初創公司競相利用人工智慧,眾多AI初創公司報告稱,其收入不僅正在增長,而且增速正在加快,實現後續里程碑的時間越來越短。以下初創公司展示了這種飛輪式增長的一致模式。需要注意的是,儘管這些公司都使用“ARR”這一術語,但其底層指標各不相同。有些公司指的是年化經常性收入(ARR),即來自付費客戶的合同收入但尚未開票。另一些公司使用年化執行率收入,根據最近一個月的收入率計算12個月的收入來預測年收入。少數公司指的是“承諾的ARR”,代表來自尚未入職客戶的已簽署合同。在Gusto的案例
Replit的Amjad Masad談Cursor交易、與蘋果的競爭,以及他為何不願出售公司
阿賈德·馬薩德(Amjad Masad)在過去十年裡致力於構建 Replit,然而過去的 18 個月卻是一個變革性的時期。這家 AI 編碼平臺從 2024 年 280 萬美元的年收入激增,正朝著馬薩德所稱的“十億美元年度執行率”邁進。在週四晚於舊金山舉行的 TechCrunch 售罄的 StrictlyVC 活動上,我們進行了廣泛的討論,從業界迫切的問題開始:據報道,競爭對手 Cursor 正在與 SpaceX 洽談 600 億美元的收購案,那麼 Replit 是否也註定會被出售?我們還討論了





首頁






