选项
首页
快讯
内容
JasonMartinez
JasonMartinez
2026-06-22

在 WWDC 大会上,LM Studio 和苹果在四台搭载 M3 Ultra 芯片的 Mac Studio 上运行了 Moonshot AI 的 1 万亿参数 Kimi K2.6 模型。通过 Thunderbolt 5 RDMA,他们将约 2TB 内存整合为单一内存池,在低功耗条件下实现了 28 个令牌/秒的推理速度。 LM Link 支持安全的远程访问。这表明,对于大型模型的部署而言,Apple Silicon 是 GPU 集群的一种高性价比替代方案。

评论 (0)
0/300
OR