选项
首页
快讯
内容
AlbertJones
AlbertJones
2026-05-21

智普AI及其合作伙伴在其GLM-5.1编码生产环境中应用了ZCube网络架构,从而实现了系统层面的突破。这一新架构使交换机和光模块的资本支出减少了33%,平均GPU推理吞吐量提高了15%,同时将首次生成令牌的延迟时间缩短了40.6%。它通过用扁平化的二分图互连结构取代传统的层次化设计,有效解决了大型模型推理过程中存在的结构性瓶颈问题,从而实现了完美的流量负载均衡。

智普AI及其合作伙伴在其GLM-5.1编码生产环境中应用了ZCube网络架构,从而实现了系统层面的突破。这一新架构使交换机和光模块的资本支出减少了33%,平均GPU推理吞吐量提高了15%,同时将首次生成令牌的延迟时间缩短了40.6%。它通过用扁平化的二分图互连结构取代传统的层次化设计,有效解决了大型模型推理过程中存在的结构性瓶颈问题,从而实现了完美的流量负载均衡。 智普AI及其合作伙伴在其GLM-5.1编码生产环境中应用了ZCube网络架构,从而实现了系统层面的突破。这一新架构使交换机和光模块的资本支出减少了33%,平均GPU推理吞吐量提高了15%,同时将首次生成令牌的延迟时间缩短了40.6%。它通过用扁平化的二分图互连结构取代传统的层次化设计,有效解决了大型模型推理过程中存在的结构性瓶颈问题,从而实现了完美的流量负载均衡。
评论 (0)
0/300
OR