选项
首页
新闻
腾讯混元将关键点大小理论整合到 PPO 强化学习中,使吞吐量提升 2.29 倍,并将 GRPO 训练时间缩短 29%

腾讯混元将关键点大小理论整合到 PPO 强化学习中,使吞吐量提升 2.29 倍,并将 GRPO 训练时间缩短 29%

2026-10-11
7

腾讯混元将关键点大小理论整合到 PPO 强化学习中,使吞吐量提升 2.29 倍,并将 GRPO 训练时间缩短 29%

随着大模型强化学习扩展到更大的 GPU 集群和更密集的训练数据集,训练效率已成为关键优先事项。腾讯混元团队最近的研究解决了一个常被忽视的挑战:当模型生成自己的训练数据时,鉴于 rollout 生成和训练的不同速度,应该如何重新定义批量大小(batch size)?

该研究基于经典的关键批量大小(critical batch size)理论,重新推导了在线大语言模型强化学习中的这一概念。研究结果提供了一个实用解决方案:随着批量大小的增加,在特定范围内调整学习率,GRPO 和 PPO 算法均可确保每个响应都能有效学习而不会被稀释。这表明批量大小并非“越大越好”,也不是固定值;相反,它存在于一个最佳范围内,可以通过微调以实现最大效率。

对实际硬件成本的影响是巨大的。在固定的硬件配置下,增加批量大小可以将 PPO 的生成吞吐量提高多达 2.29 倍。同时,最佳的 GRPO 配置实现相同的验证目标所需时间减少了 29%。对于大量投入 GPU 资源的团队而言,这意味着可以使用相同的集群更快地完成任务,或在相同时间内处理更多数据,从而有效降低强化学习中最昂贵阶段的成本。

这项研究为扩展在线强化学习提供了实用杠杆,其中模型既是学生也是出题者。效率差距源于生成和训练规模之间的不匹配,本研究通过结合关键批量大小理论和学习率调整来弥合这一差距。当行业竞相构建最大规模的模型时,腾讯混元正专注于优化现有硬件,以提高成本效益。

相关文章
人工智能初创公司加速收入增长 人工智能初创公司加速收入增长 随着成熟企业和新兴初创公司竞相利用人工智能,众多AI初创公司报告称,其收入不仅正在增长,而且增速正在加快,实现后续里程碑的时间越来越短。以下初创公司展示了这种飞轮式增长的一致模式。需要注意的是,尽管这些公司都使用“ARR”这一术语,但其底层指标各不相同。有些公司指的是年化经常性收入(ARR),即来自付费客户的合同收入但尚未开票。另一些公司使用年化运行率收入,根据最近一个月的收入率计算12个月的收入来预测年收入。少数公司指的是“承诺的ARR”,代表来自尚未入职客户的已签署合同。在Gusto的案例
Replit的Amjad Masad谈Cursor交易、与苹果的竞争,以及他为何不愿出售公司 Replit的Amjad Masad谈Cursor交易、与苹果的竞争,以及他为何不愿出售公司 阿贾德·马萨德(Amjad Masad)在过去十年里致力于构建 Replit,然而过去的 18 个月却是一个变革性的时期。这家 AI 编码平台从 2024 年 280 万美元的年收入激增,正朝着马萨德所称的“十亿美元年度运行率”迈进。在周四晚于旧金山举行的 TechCrunch 售罄的 StrictlyVC 活动上,我们进行了广泛的讨论,从业界迫切的问题开始:据报道,竞争对手 Cursor 正在与 SpaceX 洽谈 600 亿美元的收购案,那么 Replit 是否也注定会被出售?我们还讨论了
人工智能代理助力虾类养殖,工信部发布警告,瑞芯微作出回应 人工智能代理助力虾类养殖,工信部发布警告,瑞芯微作出回应 AI 社区的讨论焦点已从“训练大模型”转向“养龙虾”。如果你在社交媒体上看到有人讨论如何为“龙虾”喂数据、调参数,别困惑——他们不是在养殖水生动物,而是在部署一个名为 OpenClaw 的开源 AI 智能体。由于其官方图标是一只红龙虾,用户便戏称这一过程为“养龙虾”。这只“龙虾”为何能一夜爆红?简单来说,它是一个可本地运行、具备“长期记忆”并能主动协助人们处理任务的超级助手。与只能在网站上聊天的机器人不同,OpenClaw 可以深度融入你的工作流程。据美团数据显示,其相关搜索量近期激增超过 3
相关专题推荐
金融 面向零售分析师的最佳人工智能投资研究工具
面向零售分析师的最佳人工智能投资研究工具

2026年最新、最受好评的零售分析师AI投资研究工具,由XIX.AI精心精选。这些强大的工具能够带来颠覆性的优势,帮助专业人士加速内容创作、提升写作效率并优化分析任务,从而释放其AI竞争优势。 获取免费版与付费版的对比分析,以及实际测试结果和详细排名。立即探索,找到最适合您的工具!

11 个工具
xix.ai
代码 最佳 AI 测试生成器:为 API 和函数创建单元测试
最佳 AI 测试生成器:为 API 和函数创建单元测试

2026年最新最佳高评分AI测试生成器,适用于API和函数开发。XIX.AI精心精选了一系列功能强大、颠覆性的必试工具,这些工具均经过严格的实际测试,可提供准确的测试结果。 您将在此找到免费版与付费版之间的详细对比分析,以及每周更新的排名榜单。立即探索,发现最适合您的工具,并在软件测试中释放您的AI优势。

7 个工具
xix.ai
商业 最佳 AI 商业计划书生成工具:将创意转化为投资者演示文稿草稿
最佳 AI 商业计划书生成工具:将创意转化为投资者演示文稿草稿

2026年最新、最受欢迎的高评分AI商业计划书生成器已登陆XIX.AI!这一精心精选的合集汇集了功能强大、具有颠覆性的工具,可帮助创作者快速将创新想法转化为完善的投资者演示文稿草稿。 您将看到每周更新的排行榜、免费版与付费版的对比分析,以及实际测试报告,这些内容将帮助您选择必试的解决方案,从而提升工作效率并取得最佳成果。立即探索,找到助您成功获得融资的完美工具!

11 个工具
xix.ai
金融 适用于 QuickBooks、Xero 以及多实体对账的人工智能发票 OCR 平台
适用于 QuickBooks、Xero 以及多实体对账的人工智能发票 OCR 平台

2026年最新最佳AI发票OCR平台,适用于QuickBooks、Xero及多实体对账! XIX.AI 精心筛选出一系列广受好评的强大工具,这些工具经过精准的实际测试,并提供每周更新的排行榜。这些必试解决方案可简化发票处理流程,提升工作效率,并在复杂的业务环境中节省时间。获取免费版与付费版的对比指南,找到最适合您的方案。立即探索,释放您的AI优势!

8 个工具
xix.ai
商业 适用于企业提案工作流的 AI RFP 响应软件
适用于企业提案工作流的 AI RFP 响应软件

2026年最先进的企业提案工作流专用AI RFP回复软件!XIX.AI精心整理了一份经过严格实际测试、评分极高的优质工具清单,其中包含诸多提升效率、简化提案流程的实用功能。您可以查看免费版与付费版的对比信息、详细的排名数据,了解这些具有颠覆性意义的解决方案如何帮助您更快地撰写出高质量回复。立即探索,让AI优势助力您的业务发展!

9 个工具
xix.ai
视频创作 AI字幕和配音工具:为全球观众本地化视频
AI字幕和配音工具:为全球观众本地化视频

2026年最新精选、评分最高的AI字幕和配音工具,专为面向全球受众的视频本地化而打造。凭借颠覆性的精准度,强力突破语言障碍,大幅提升内容覆盖范围。实际测试证明,这些必试解决方案提供了免费与付费版本的对比分析及可靠的排名,可最大限度地提高工作效率。立即探索,找到您进行全球内容分发的理想工具。

10 个工具
xix.ai
评论 (0)
0/500
OR