选项
首页
快讯
内容
SamuelClark
SamuelClark
2026-07-23

小红书的Dots基础设施团队开源了BigMac,这是一种面向多模态大型语言模型(LLM)的管道并行训练范式。它将编码器/生成器的计算嵌套到优化的LLM调度中,从而打破了计算速度与内存使用之间的权衡。 在理解任务方面,BigMac 在保持内存稳定的前提下,相较于基线模型实现了 1.08 至 1.9 倍的加速;在生成任务方面,它在避免内存不足(OOM)的同时,实现了 1.5 至 1.9 倍的加速。

小红书的Dots基础设施团队开源了BigMac,这是一种面向多模态大型语言模型(LLM)的管道并行训练范式。它将编码器/生成器的计算嵌套到优化的LLM调度中,从而打破了计算速度与内存使用之间的权衡。 在理解任务方面,BigMac 在保持内存稳定的前提下,相较于基线模型实现了 1.08 至 1.9 倍的加速;在生成任务方面,它在避免内存不足(OOM)的同时,实现了 1.5 至 1.9 倍的加速。 小红书的Dots基础设施团队开源了BigMac,这是一种面向多模态大型语言模型(LLM)的管道并行训练范式。它将编码器/生成器的计算嵌套到优化的LLM调度中,从而打破了计算速度与内存使用之间的权衡。 在理解任务方面,BigMac 在保持内存稳定的前提下,相较于基线模型实现了 1.08 至 1.9 倍的加速;在生成任务方面,它在避免内存不足(OOM)的同时,实现了 1.5 至 1.9 倍的加速。
评论 (0)
0/300
OR