Option
Heim
Eilmeldung
Inhalt
JasonMartinez
JasonMartinez
22. Juni 2026

Auf der WWDC führten LM Studio und Apple das „Kimi K2.6“-Modell von Moonshot AI mit 1 Billion Parametern auf vier Mac Studios mit M3 Ultra-Chips aus. Mithilfe von Thunderbolt 5 RDMA bündelten sie ca. 2 TB Arbeitsspeicher zu einem einzigen Pool und erreichten so eine Inferenzrate von 28 Tokens/s bei geringem Stromverbrauch. LM Link ermöglicht einen sicheren Fernzugriff. Dies zeigt, dass Apple Silicon eine kostengünstige Alternative zu GPU-Clustern für den Einsatz großer Modelle darstellt.

Kommentare (0)
0/300
OR