蘋果公司與LM工作室攜手,透過四座Mac工作室部署大規模本地大型語言模型

在近期舉辦的 WWDC2026 活動上,LM Studio 與蘋果公司共同展示了一項具有突破性的技術演示。在本次演示中,他們僅透過將四臺 Mac Studio 連線成叢集,便成功執行了 Moonshot 公司擁有 1 萬億引數的大型模型 Kimi K2.6。這一成就打破了長期以來“擁有萬億級引數的模型必然需要基於雲端的 GPU 叢集”的固有觀念,證明了消費級硬體同樣能夠實現先進的 AI 計算能力。
Kimi K2.6 的總引數量為 1 萬億,採用了 MoE 架構,可在任意時刻啟用 320 億個引數。該模型支援長上下文處理、多模態輸入處理以及基於智慧體的任務執行功能。在演示中,四臺 Mac Studio 透過蘋果公司的記憶體共享與互連技術連線在一起,形成了一個擁有約 1.5TB 統一記憶體的叢集,足以滿足該大型模型的推理需求。此前的開發者測試顯示,在類似的配置條件下,Kimi K2.6 的文字生成速度約為每秒 28 個標記,且其能耗遠低於傳統的基於 GPU 的解決方案。
當透過 iPhone 直接連線到本地叢集時,所有資料均完全保留在使用者的裝置內部
此次演示的另一個亮點是 LM Studio 開發的 LM Link 遠端訪問功能。使用者可以透過自己的 MacBook Neo 或 iPhone 安全地遠端連線至 Mac Studio 叢集,實時與正在執行的模型進行互動,所有的資料處理與通訊都在本地完成,無需透過雲端傳輸資料。
LM Link 已被整合到 LM Studio 的 Mac 應用程式以及 Locally AI 的 iOS 應用程式中,能夠提供端到端加密的連線方式。這樣的設定使得使用者即便在效能較低的裝置上,也能隨時呼叫叢集級的 AI 計算能力,同時無需擔心隱私洩露問題。結合蘋果公司的 Thunderbolt 5 RDMA 技術以及其他多裝置記憶體共享方案,整個生態系統正在快速構建一個用於本地部署人工智慧的無縫框架。
此次合作傳遞了一個明確的訊號:在本地部署萬億引數級的大型模型已不再是僅限於實驗室的理論概念,而是一種開發者可以在自身工作環境中實現的可行方案。隨著蘋果公司不斷推進其硬體互連功能,消費級裝置處理大規模 AI 推理的能力預計還將進一步提升。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (1)
0/500

在近期舉辦的 WWDC2026 活動上,LM Studio 與蘋果公司共同展示了一項具有突破性的技術演示。在本次演示中,他們僅透過將四臺 Mac Studio 連線成叢集,便成功執行了 Moonshot 公司擁有 1 萬億引數的大型模型 Kimi K2.6。這一成就打破了長期以來“擁有萬億級引數的模型必然需要基於雲端的 GPU 叢集”的固有觀念,證明了消費級硬體同樣能夠實現先進的 AI 計算能力。
Kimi K2.6 的總引數量為 1 萬億,採用了 MoE 架構,可在任意時刻啟用 320 億個引數。該模型支援長上下文處理、多模態輸入處理以及基於智慧體的任務執行功能。在演示中,四臺 Mac Studio 透過蘋果公司的記憶體共享與互連技術連線在一起,形成了一個擁有約 1.5TB 統一記憶體的叢集,足以滿足該大型模型的推理需求。此前的開發者測試顯示,在類似的配置條件下,Kimi K2.6 的文字生成速度約為每秒 28 個標記,且其能耗遠低於傳統的基於 GPU 的解決方案。
當透過 iPhone 直接連線到本地叢集時,所有資料均完全保留在使用者的裝置內部
此次演示的另一個亮點是 LM Studio 開發的 LM Link 遠端訪問功能。使用者可以透過自己的 MacBook Neo 或 iPhone 安全地遠端連線至 Mac Studio 叢集,實時與正在執行的模型進行互動,所有的資料處理與通訊都在本地完成,無需透過雲端傳輸資料。
LM Link 已被整合到 LM Studio 的 Mac 應用程式以及 Locally AI 的 iOS 應用程式中,能夠提供端到端加密的連線方式。這樣的設定使得使用者即便在效能較低的裝置上,也能隨時呼叫叢集級的 AI 計算能力,同時無需擔心隱私洩露問題。結合蘋果公司的 Thunderbolt 5 RDMA 技術以及其他多裝置記憶體共享方案,整個生態系統正在快速構建一個用於本地部署人工智慧的無縫框架。
此次合作傳遞了一個明確的訊號:在本地部署萬億引數級的大型模型已不再是僅限於實驗室的理論概念,而是一種開發者可以在自身工作環境中實現的可行方案。隨著蘋果公司不斷推進其硬體互連功能,消費級裝置處理大規模 AI 推理的能力預計還將進一步提升。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






