opção
JasonMartinez
JasonMartinez
22 de Junho de 2026

Na WWDC, a LM Studio e a Apple executaram o modelo Kimi K2.6 da Moonshot AI, com 1 trilhão de parâmetros, em quatro Mac Studios equipados com chips M3 Ultra. Utilizando RDMA via Thunderbolt 5, elas unificaram cerca de 2 TB de memória em um único pool, alcançando uma taxa de inferência de 28 tokens/s com baixo consumo de energia. O LM Link permite acesso remoto seguro. Isso demonstra que o Apple Silicon é uma alternativa econômica aos clusters de GPUs para a implantação de modelos de grande porte.

Comentários (0)
0/300
OR