选项
首页
快讯
内容
JohnWilson
JohnWilson
2026-06-29

北京大学与DeepSeek共同开源了DSpark——一个面向大型语言模型的推理加速框架。该框架采用半自回归架构和基于置信度的调度机制,旨在降低高并发场景下的延迟并减少计算资源浪费。 测试表明,DSpark的性能优于Eagle3和DFlash,尤其在长序列任务中表现突出。该框架已部署于DeepSeek-V4模型中,完整源代码已发布在GitHub上。

北京大学与DeepSeek共同开源了DSpark——一个面向大型语言模型的推理加速框架。该框架采用半自回归架构和基于置信度的调度机制,旨在降低高并发场景下的延迟并减少计算资源浪费。 测试表明,DSpark的性能优于Eagle3和DFlash,尤其在长序列任务中表现突出。该框架已部署于DeepSeek-V4模型中,完整源代码已发布在GitHub上。
评论 (0)
0/300
OR