選項
首頁
快訊
內容
AlbertJones
AlbertJones
2026-05-21

智普AI及其合作伙伴在其GLM-5.1編碼生產環境中應用了ZCube網路架構,從而實現了系統層面的突破。這一新架構使交換機和光模組的資本支出減少了33%,平均GPU推理吞吐量提高了15%,同時將首次生成令牌的延遲時間縮短了40.6%。它透過用扁平化的二分圖互連結構取代傳統的層次化設計,有效解決了大型模型推理過程中存在的結構性瓶頸問題,從而實現了完美的流量負載均衡。

智普AI及其合作伙伴在其GLM-5.1編碼生產環境中應用了ZCube網路架構,從而實現了系統層面的突破。這一新架構使交換機和光模組的資本支出減少了33%,平均GPU推理吞吐量提高了15%,同時將首次生成令牌的延遲時間縮短了40.6%。它透過用扁平化的二分圖互連結構取代傳統的層次化設計,有效解決了大型模型推理過程中存在的結構性瓶頸問題,從而實現了完美的流量負載均衡。 智普AI及其合作伙伴在其GLM-5.1編碼生產環境中應用了ZCube網路架構,從而實現了系統層面的突破。這一新架構使交換機和光模組的資本支出減少了33%,平均GPU推理吞吐量提高了15%,同時將首次生成令牌的延遲時間縮短了40.6%。它透過用扁平化的二分圖互連結構取代傳統的層次化設計,有效解決了大型模型推理過程中存在的結構性瓶頸問題,從而實現了完美的流量負載均衡。
評論 (0)
0/300
OR