選項
首頁
新聞
騰訊混元將關鍵點大小理論整合到 PPO 強化學習中,使吞吐量提升 2.29 倍,並將 GRPO 訓練時間縮短 29%

騰訊混元將關鍵點大小理論整合到 PPO 強化學習中,使吞吐量提升 2.29 倍,並將 GRPO 訓練時間縮短 29%

2026-10-11
7

騰訊混元將關鍵點大小理論整合到 PPO 強化學習中,使吞吐量提升 2.29 倍,並將 GRPO 訓練時間縮短 29%

隨著大模型強化學習擴充套件到更大的 GPU 叢集和更密集的訓練資料集,訓練效率已成為關鍵優先事項。騰訊混元團隊最近的研究解決了一個常被忽視的挑戰:當模型生成自己的訓練資料時,鑑於 rollout 生成和訓練的不同速度,應該如何重新定義批次大小(batch size)?

該研究基於經典的關鍵批次大小(critical batch size)理論,重新推導了線上大語言模型強化學習中的這一概念。研究結果提供了一個實用解決方案:隨著批次大小的增加,在特定範圍內調整學習率,GRPO 和 PPO 演算法均可確保每個響應都能有效學習而不會被稀釋。這表明批次大小並非“越大越好”,也不是固定值;相反,它存在於一個最佳範圍內,可以透過微調以實現最大效率。

對實際硬體成本的影響是巨大的。在固定的硬體配置下,增加批次大小可以將 PPO 的生成吞吐量提高多達 2.29 倍。同時,最佳的 GRPO 配置實現相同的驗證目標所需時間減少了 29%。對於大量投入 GPU 資源的團隊而言,這意味著可以使用相同的叢集更快地完成任務,或在相同時間內處理更多資料,從而有效降低強化學習中最昂貴階段的成本。

這項研究為擴充套件線上強化學習提供了實用槓桿,其中模型既是學生也是出題者。效率差距源於生成和訓練規模之間的不匹配,本研究透過結合關鍵批次大小理論和學習率調整來彌合這一差距。當行業競相構建最大規模的模型時,騰訊混元正專注於最佳化現有硬體,以提高成本效益。

相關文章
小學生畫鬍子騙過AI年齡驗證,令矽谷工程師啞口無言 小學生畫鬍子騙過AI年齡驗證,令矽谷工程師啞口無言 在全球監管日益收緊的背景下,主要社交網路已實施嚴格的年齡驗證協議,以限制未成年人訪問特定功能。為保護使用者隱私,許多平臺採用了一種創新的裝置端面部年齡估算系統。然而,諷刺的是,這項先進技術最近卻被線上“業餘專家”以極其低科技的手段輕鬆繞過。簡單的繪畫和假鬍鬚成功透過驗證在一項旨在測試 AI 能力的輕鬆實驗中,一名 12 歲男孩用眉筆在嘴唇上方畫了鬍子,被準確估算為 15 歲,成功透過了驗證。更有趣的是,一些使用者僅僅在拇指上畫了兩個點和一條線來代表眼睛和嘴巴。當按照提示左右移動頭部時,AI 判定該主
人工智慧初創公司加速收入增長 人工智慧初創公司加速收入增長 隨著成熟企業和新興初創公司競相利用人工智慧,眾多AI初創公司報告稱,其收入不僅正在增長,而且增速正在加快,實現後續里程碑的時間越來越短。以下初創公司展示了這種飛輪式增長的一致模式。需要注意的是,儘管這些公司都使用“ARR”這一術語,但其底層指標各不相同。有些公司指的是年化經常性收入(ARR),即來自付費客戶的合同收入但尚未開票。另一些公司使用年化執行率收入,根據最近一個月的收入率計算12個月的收入來預測年收入。少數公司指的是“承諾的ARR”,代表來自尚未入職客戶的已簽署合同。在Gusto的案例
Replit的Amjad Masad談Cursor交易、與蘋果的競爭,以及他為何不願出售公司 Replit的Amjad Masad談Cursor交易、與蘋果的競爭,以及他為何不願出售公司 阿賈德·馬薩德(Amjad Masad)在過去十年裡致力於構建 Replit,然而過去的 18 個月卻是一個變革性的時期。這家 AI 編碼平臺從 2024 年 280 萬美元的年收入激增,正朝著馬薩德所稱的“十億美元年度執行率”邁進。在週四晚於舊金山舉行的 TechCrunch 售罄的 StrictlyVC 活動上,我們進行了廣泛的討論,從業界迫切的問題開始:據報道,競爭對手 Cursor 正在與 SpaceX 洽談 600 億美元的收購案,那麼 Replit 是否也註定會被出售?我們還討論了
相關專題推薦
生產率 日常工作中最實用的 AI 筆記整理工具
日常工作中最實用的 AI 筆記整理工具

2026年最新、最優秀、評分最高的日常辦公用AI筆記整理工具現已在XIX.AI上亮相!這份精心篩選的清單彙集了經過實際應用測試與嚴格評分體系認證的強大工具,能夠顯著提升工作效率。您還將看到詳細的免費版與付費版對比資訊,助您挑選出最符合自身需求的工具。立即探索,找到最適合您的工具,讓AI助力您在日常工作中更具優勢!

11 個工具
xix.ai
金融 最適合散戶分析師的 AI 投資研究工具
最適合散戶分析師的 AI 投資研究工具

2026 年最新、最受好評的 AI 投資研究工具,專為零售分析師精心挑選,由 XIX.AI 嚴選呈現。這些強大的工具能帶來顛覆性的優勢,有助於加速內容創作、提升寫作效率並簡化分析任務,協助專業人士發揮 AI 帶來的競爭優勢。 立即獲取免費與付費版本的比較分析,以及實際測試結果與詳細排名。現在就來探索,找到最適合您的工具!

11 個工具
xix.ai
代碼 最佳 AI 測試生成器:為 API 和函式建立單元測試
最佳 AI 測試生成器:為 API 和函式建立單元測試

2026 年最新、最受好評的 API 與函式開發用 AI 測試生成器。XIX.AI 精選了一系列強大且顛覆業界的必試工具,這些工具均經過嚴格的實際環境測試,以提供精確的結果。 您將在此找到詳盡的免費版與付費版比較分析,以及每週更新的排行榜。立即探索,發掘最適合您的工具,並在軟體測試領域中發揮您的 AI 優勢。

7 個工具
xix.ai
商業 最佳 AI 商業計畫書生成工具:將點子轉化為投資人簡報草稿
最佳 AI 商業計畫書生成工具:將點子轉化為投資人簡報草稿

2026 年最新、最受好評的 AI 商業計畫書生成工具現已登陸 XIX.AI!這份精心精選的合集收錄了多款強大且具顛覆性的工具,能協助創作者迅速將創新構想轉化為精緻的投資人簡報草稿。 您將在此找到每週更新的排行榜、免費與付費版本的比較分析,以及實際測試報告,助您挑選必試的解決方案,以提升生產力並取得最佳成效。立即探索,發掘最適合您的工具,成功爭取資金!

11 個工具
xix.ai
金融 適用於 QuickBooks、Xero 及多實體對帳的人工智慧發票 OCR 平台
適用於 QuickBooks、Xero 及多實體對帳的人工智慧發票 OCR 平台

2026 年最新最佳 AI 發票 OCR 平台,適用於 QuickBooks、Xero 及多實體對帳! XIX.AI 精選了一系列備受好評的強大工具,這些工具均經過精準的實測驗證,並提供每週更新的排名。這些必試解決方案能簡化發票處理流程、提升生產力,並在複雜的商業環境中節省時間。立即查看免費版與付費版的比較,找出最適合您的方案。現在就探索,釋放您的 AI 競爭優勢!

8 個工具
xix.ai
商業 適用於企業提案工作流的 AI RFP 響應軟體
適用於企業提案工作流的 AI RFP 響應軟體

2026年最先進的企業提案工作流專用AI RFP回覆軟體!XIX.AI精心整理了一份經過嚴格實際測試、評分極高的優質工具清單,其中包含諸多提升效率、簡化提案流程的實用功能。您可以檢視免費版與付費版的對比資訊、詳細的排名資料,瞭解這些具有顛覆性意義的解決方案如何幫助您更快地撰寫出高質量回復。立即探索,讓AI優勢助力您的業務發展!

9 個工具
xix.ai
評論 (0)
0/500
OR