選項
首頁
快訊
內容
JasonMartinez
JasonMartinez
2026-06-22

在 WWDC 大會上,LM Studio 與 Apple 透過四台搭載 M3 Ultra 晶片的 Mac Studio,執行了 Moonshot AI 的 1 兆參數 Kimi K2.6 模型。藉由 Thunderbolt 5 RDMA 技術,他們將約 2TB 的記憶體整合為單一記憶體池,在低功耗下實現了每秒 28 個標記的推論速度。 LM Link 則可實現安全的遠端存取。這顯示 Apple Silicon 對於大型模型部署而言,是 GPU 叢集之外一種具成本效益的替代方案。

評論 (0)
0/300
OR