腾讯混元将关键点大小理论整合到 PPO 强化学习中,使吞吐量提升 2.29 倍,并将 GRPO 训练时间缩短 29%

随着大模型强化学习扩展到更大的 GPU 集群和更密集的训练数据集,训练效率已成为关键优先事项。腾讯混元团队最近的研究解决了一个常被忽视的挑战:当模型生成自己的训练数据时,鉴于 rollout 生成和训练的不同速度,应该如何重新定义批量大小(batch size)?
该研究基于经典的关键批量大小(critical batch size)理论,重新推导了在线大语言模型强化学习中的这一概念。研究结果提供了一个实用解决方案:随着批量大小的增加,在特定范围内调整学习率,GRPO 和 PPO 算法均可确保每个响应都能有效学习而不会被稀释。这表明批量大小并非“越大越好”,也不是固定值;相反,它存在于一个最佳范围内,可以通过微调以实现最大效率。
对实际硬件成本的影响是巨大的。在固定的硬件配置下,增加批量大小可以将 PPO 的生成吞吐量提高多达 2.29 倍。同时,最佳的 GRPO 配置实现相同的验证目标所需时间减少了 29%。对于大量投入 GPU 资源的团队而言,这意味着可以使用相同的集群更快地完成任务,或在相同时间内处理更多数据,从而有效降低强化学习中最昂贵阶段的成本。
这项研究为扩展在线强化学习提供了实用杠杆,其中模型既是学生也是出题者。效率差距源于生成和训练规模之间的不匹配,本研究通过结合关键批量大小理论和学习率调整来弥合这一差距。当行业竞相构建最大规模的模型时,腾讯混元正专注于优化现有硬件,以提高成本效益。
相关文章
人工智能初创公司加速收入增长
随着成熟企业和新兴初创公司竞相利用人工智能,众多AI初创公司报告称,其收入不仅正在增长,而且增速正在加快,实现后续里程碑的时间越来越短。以下初创公司展示了这种飞轮式增长的一致模式。需要注意的是,尽管这些公司都使用“ARR”这一术语,但其底层指标各不相同。有些公司指的是年化经常性收入(ARR),即来自付费客户的合同收入但尚未开票。另一些公司使用年化运行率收入,根据最近一个月的收入率计算12个月的收入来预测年收入。少数公司指的是“承诺的ARR”,代表来自尚未入职客户的已签署合同。在Gusto的案例
Replit的Amjad Masad谈Cursor交易、与苹果的竞争,以及他为何不愿出售公司
阿贾德·马萨德(Amjad Masad)在过去十年里致力于构建 Replit,然而过去的 18 个月却是一个变革性的时期。这家 AI 编码平台从 2024 年 280 万美元的年收入激增,正朝着马萨德所称的“十亿美元年度运行率”迈进。在周四晚于旧金山举行的 TechCrunch 售罄的 StrictlyVC 活动上,我们进行了广泛的讨论,从业界迫切的问题开始:据报道,竞争对手 Cursor 正在与 SpaceX 洽谈 600 亿美元的收购案,那么 Replit 是否也注定会被出售?我们还讨论了
人工智能代理助力虾类养殖,工信部发布警告,瑞芯微作出回应
AI 社区的讨论焦点已从“训练大模型”转向“养龙虾”。如果你在社交媒体上看到有人讨论如何为“龙虾”喂数据、调参数,别困惑——他们不是在养殖水生动物,而是在部署一个名为 OpenClaw 的开源 AI 智能体。由于其官方图标是一只红龙虾,用户便戏称这一过程为“养龙虾”。这只“龙虾”为何能一夜爆红?简单来说,它是一个可本地运行、具备“长期记忆”并能主动协助人们处理任务的超级助手。与只能在网站上聊天的机器人不同,OpenClaw 可以深度融入你的工作流程。据美团数据显示,其相关搜索量近期激增超过 3
相关专题推荐
评论 (0)
0/500

随着大模型强化学习扩展到更大的 GPU 集群和更密集的训练数据集,训练效率已成为关键优先事项。腾讯混元团队最近的研究解决了一个常被忽视的挑战:当模型生成自己的训练数据时,鉴于 rollout 生成和训练的不同速度,应该如何重新定义批量大小(batch size)?
该研究基于经典的关键批量大小(critical batch size)理论,重新推导了在线大语言模型强化学习中的这一概念。研究结果提供了一个实用解决方案:随着批量大小的增加,在特定范围内调整学习率,GRPO 和 PPO 算法均可确保每个响应都能有效学习而不会被稀释。这表明批量大小并非“越大越好”,也不是固定值;相反,它存在于一个最佳范围内,可以通过微调以实现最大效率。
对实际硬件成本的影响是巨大的。在固定的硬件配置下,增加批量大小可以将 PPO 的生成吞吐量提高多达 2.29 倍。同时,最佳的 GRPO 配置实现相同的验证目标所需时间减少了 29%。对于大量投入 GPU 资源的团队而言,这意味着可以使用相同的集群更快地完成任务,或在相同时间内处理更多数据,从而有效降低强化学习中最昂贵阶段的成本。
这项研究为扩展在线强化学习提供了实用杠杆,其中模型既是学生也是出题者。效率差距源于生成和训练规模之间的不匹配,本研究通过结合关键批量大小理论和学习率调整来弥合这一差距。当行业竞相构建最大规模的模型时,腾讯混元正专注于优化现有硬件,以提高成本效益。
人工智能初创公司加速收入增长
随着成熟企业和新兴初创公司竞相利用人工智能,众多AI初创公司报告称,其收入不仅正在增长,而且增速正在加快,实现后续里程碑的时间越来越短。以下初创公司展示了这种飞轮式增长的一致模式。需要注意的是,尽管这些公司都使用“ARR”这一术语,但其底层指标各不相同。有些公司指的是年化经常性收入(ARR),即来自付费客户的合同收入但尚未开票。另一些公司使用年化运行率收入,根据最近一个月的收入率计算12个月的收入来预测年收入。少数公司指的是“承诺的ARR”,代表来自尚未入职客户的已签署合同。在Gusto的案例
Replit的Amjad Masad谈Cursor交易、与苹果的竞争,以及他为何不愿出售公司
阿贾德·马萨德(Amjad Masad)在过去十年里致力于构建 Replit,然而过去的 18 个月却是一个变革性的时期。这家 AI 编码平台从 2024 年 280 万美元的年收入激增,正朝着马萨德所称的“十亿美元年度运行率”迈进。在周四晚于旧金山举行的 TechCrunch 售罄的 StrictlyVC 活动上,我们进行了广泛的讨论,从业界迫切的问题开始:据报道,竞争对手 Cursor 正在与 SpaceX 洽谈 600 亿美元的收购案,那么 Replit 是否也注定会被出售?我们还讨论了
人工智能代理助力虾类养殖,工信部发布警告,瑞芯微作出回应
AI 社区的讨论焦点已从“训练大模型”转向“养龙虾”。如果你在社交媒体上看到有人讨论如何为“龙虾”喂数据、调参数,别困惑——他们不是在养殖水生动物,而是在部署一个名为 OpenClaw 的开源 AI 智能体。由于其官方图标是一只红龙虾,用户便戏称这一过程为“养龙虾”。这只“龙虾”为何能一夜爆红?简单来说,它是一个可本地运行、具备“长期记忆”并能主动协助人们处理任务的超级助手。与只能在网站上聊天的机器人不同,OpenClaw 可以深度融入你的工作流程。据美团数据显示,其相关搜索量近期激增超过 3





首页






