选项
首页
快讯
内容
PeterPerez
PeterPerez
2026-07-30

腾讯开源了AngelSpec,这是一个通过多方案协作和工作负载适配来提升大型模型推理吞吐量的统一训练框架。该框架针对开放式任务采用多令牌预测,针对代码/数学任务则采用块扩散模型(DFly),并配备动态验证机制以平衡计算资源与吞吐量。 在Hy3测试中,DFly实现了最高的平均吞吐量。

腾讯开源了AngelSpec,这是一个通过多方案协作和工作负载适配来提升大型模型推理吞吐量的统一训练框架。该框架针对开放式任务采用多令牌预测,针对代码/数学任务则采用块扩散模型(DFly),并配备动态验证机制以平衡计算资源与吞吐量。 在Hy3测试中,DFly实现了最高的平均吞吐量。 腾讯开源了AngelSpec,这是一个通过多方案协作和工作负载适配来提升大型模型推理吞吐量的统一训练框架。该框架针对开放式任务采用多令牌预测,针对代码/数学任务则采用块扩散模型(DFly),并配备动态验证机制以平衡计算资源与吞吐量。 在Hy3测试中,DFly实现了最高的平均吞吐量。
评论 (0)
0/300
OR