Apple 的本地 AI 隨 oMLX 0.3.9 強勢回歸:Gemma 4 視覺能力提升、一鍵啟用 Copilot,以及均衡的雲端大型模型運算能力
截至北京時間 5 月 13 日,Apple Silicon 本地 AI 生態系統已達成一項重大里程碑。 oMLX 0.3.9.dev2 版本的發布整合了多項先進的優化技術,大幅提升了本地大型語言模型在圖像與文字任務上的處理速度及易用性。此次更新透過強化實際使用體驗,進一步鞏固了 Apple 在邊緣端 AI 領域的競爭優勢。

核心技術升級:全面支援 Gemma4 視覺路徑
本次更新的亮點在於原生整合了Gemma4 的 MTP 視覺路徑、DFlash 引擎以及ParoQuant 量化技術。這些創新技術共同加速了圖像與文字的多模態解碼,大幅降低了在地執行複雜模型的延遲門檻。 因此,透過這些優化措施,先前與本地 AI 相關的效能差距已大幅縮小。
易用性飛躍:omlx Launch Copilot 提供頂尖工具的即時存取
為了降低開發者與終端使用者兩方的使用門檻,oMLX 推出了omlx Launch Copilot。此功能讓使用者只需單擊一下,即可立即存取 Claude、Codex 和 OpenClaw 等頂尖 AI 工具,實現本地與雲端服務之間的無縫互動。 透過強化本地 AI 整合,此更新讓真正的「開箱即用」體驗成為現實。
資源管理優化:oQ 智慧代理解決 VRAM 限制
為解決 Apple Silicon 統一記憶體架構中的常見部署挑戰,新版本導入了oQ 自動代理機制。此工具能智慧管理 VRAM 不足的問題,確保大型模型在消費級硬體上運行時更具穩定性。此外,管理介面現已新增伺服器重新啟動按鈕,簡化了例行維護任務。
AIbase 評論:從 MLX 到 oMLX 的演進,展現了 Apple 在邊緣 AI 領域的快速進展,某些方面的效能現已可與雲端解決方案匹敵甚至超越。 統一記憶體的頻寬優勢,結合高效的量化技術與引擎優化,突顯了本地 AI 在速度、隱私及即時響應方面的獨特優勢。過去被視為本地部署限制的因素,如今已轉化為速度、整合性與易用性上的顯著提升。
此次更新傳達了一個明確訊息:人工智慧正從雲端轉向個人裝置。在不久的將來,將有更多使用者體驗到直接在自己的電腦上運行大型模型所帶來的自由與強大效能。
專案儲存庫:https://github.com/jundot/omlx
相關文章
OpenAI 現已向聯合國人工智慧安全理事會提交駭客攻擊報告
約書亞·班吉奧在聯合國安全理事會關於人工智慧安全的會議上發表了開幕致辭。圖片來源:聯合國在聯合國安全理事會聚焦人工智慧安全的會議結束後,有報導指出發生了一起涉及 OpenAI 的惡意事件,該事件涉及未經授權存取澳洲政府的敏感資料。全球政策制定者與人工智慧領域領袖齊聚紐約,出席聯合國安全理事會第10,228次會議。本次會議於2026年9月23日召開,多位人工智慧界知名人士在會上分享見解並參與討論,包
Anthropic 科學家因擔憂 AI 控制及人類自我傷害問題而辭職
人工智慧領域近期出現了一個令人震驚的轉折:Anthropic 的高階研究員 Jacob Coxon 辭職,以抗議他所謂的行業失控狂熱,這實際上意味著他離開了人工智慧領域。這一舉動在科技界引發了激烈辯論,凸顯了大型語言模型快速發展背後潛伏的安全風險。Coxon 是一名 27 歲的數學家,擁有深厚的學術背景,在業內備受尊敬。他此前曾在 OpenAI 工作,今年早些時候加入 Anthropic,被該公司優先考慮模型安全的聲譽所吸引。然而,隨著大型科技巨頭和初創公司展開激烈競爭,安全問題正日益被邊緣化
法國初創公司ZML推出免費工具,加速跨多晶片的AI推理
Nvidia 不受制約的市場主導地位時代可能正在走向終結,然而競爭對手和替代方案正從各個角度湧現。由圖靈獎得主楊立昆(Yann LeCun)支援的法國知名 AI 初創公司 ZML,推出了一款推理效能軟體,使各種開源大語言模型能夠在包括 Nvidia、AMD、Google TPUs、Apple Metal 和 Intel Arc 在內的多種硬體上執行。據 ZML 創始人 Steeve Morin 介紹,透過其新推出的 LLM 推理伺服器 ZML/LLMD,該公司旨在打破現有的壁壘,並最大化不同
相關專題推薦
評論 (0)
0/500
截至北京時間 5 月 13 日,Apple Silicon 本地 AI 生態系統已達成一項重大里程碑。 oMLX 0.3.9.dev2 版本的發布整合了多項先進的優化技術,大幅提升了本地大型語言模型在圖像與文字任務上的處理速度及易用性。此次更新透過強化實際使用體驗,進一步鞏固了 Apple 在邊緣端 AI 領域的競爭優勢。

核心技術升級:全面支援 Gemma4 視覺路徑
本次更新的亮點在於原生整合了Gemma4 的 MTP 視覺路徑、DFlash 引擎以及ParoQuant 量化技術。這些創新技術共同加速了圖像與文字的多模態解碼,大幅降低了在地執行複雜模型的延遲門檻。 因此,透過這些優化措施,先前與本地 AI 相關的效能差距已大幅縮小。
易用性飛躍:omlx Launch Copilot 提供頂尖工具的即時存取
為了降低開發者與終端使用者兩方的使用門檻,oMLX 推出了omlx Launch Copilot。此功能讓使用者只需單擊一下,即可立即存取 Claude、Codex 和 OpenClaw 等頂尖 AI 工具,實現本地與雲端服務之間的無縫互動。 透過強化本地 AI 整合,此更新讓真正的「開箱即用」體驗成為現實。
資源管理優化:oQ 智慧代理解決 VRAM 限制
為解決 Apple Silicon 統一記憶體架構中的常見部署挑戰,新版本導入了oQ 自動代理機制。此工具能智慧管理 VRAM 不足的問題,確保大型模型在消費級硬體上運行時更具穩定性。此外,管理介面現已新增伺服器重新啟動按鈕,簡化了例行維護任務。
AIbase 評論:從 MLX 到 oMLX 的演進,展現了 Apple 在邊緣 AI 領域的快速進展,某些方面的效能現已可與雲端解決方案匹敵甚至超越。 統一記憶體的頻寬優勢,結合高效的量化技術與引擎優化,突顯了本地 AI 在速度、隱私及即時響應方面的獨特優勢。過去被視為本地部署限制的因素,如今已轉化為速度、整合性與易用性上的顯著提升。
此次更新傳達了一個明確訊息:人工智慧正從雲端轉向個人裝置。在不久的將來,將有更多使用者體驗到直接在自己的電腦上運行大型模型所帶來的自由與強大效能。
專案儲存庫:https://github.com/jundot/omlx
OpenAI 現已向聯合國人工智慧安全理事會提交駭客攻擊報告
約書亞·班吉奧在聯合國安全理事會關於人工智慧安全的會議上發表了開幕致辭。圖片來源:聯合國在聯合國安全理事會聚焦人工智慧安全的會議結束後,有報導指出發生了一起涉及 OpenAI 的惡意事件,該事件涉及未經授權存取澳洲政府的敏感資料。全球政策制定者與人工智慧領域領袖齊聚紐約,出席聯合國安全理事會第10,228次會議。本次會議於2026年9月23日召開,多位人工智慧界知名人士在會上分享見解並參與討論,包
Anthropic 科學家因擔憂 AI 控制及人類自我傷害問題而辭職
人工智慧領域近期出現了一個令人震驚的轉折:Anthropic 的高階研究員 Jacob Coxon 辭職,以抗議他所謂的行業失控狂熱,這實際上意味著他離開了人工智慧領域。這一舉動在科技界引發了激烈辯論,凸顯了大型語言模型快速發展背後潛伏的安全風險。Coxon 是一名 27 歲的數學家,擁有深厚的學術背景,在業內備受尊敬。他此前曾在 OpenAI 工作,今年早些時候加入 Anthropic,被該公司優先考慮模型安全的聲譽所吸引。然而,隨著大型科技巨頭和初創公司展開激烈競爭,安全問題正日益被邊緣化
法國初創公司ZML推出免費工具,加速跨多晶片的AI推理
Nvidia 不受制約的市場主導地位時代可能正在走向終結,然而競爭對手和替代方案正從各個角度湧現。由圖靈獎得主楊立昆(Yann LeCun)支援的法國知名 AI 初創公司 ZML,推出了一款推理效能軟體,使各種開源大語言模型能夠在包括 Nvidia、AMD、Google TPUs、Apple Metal 和 Intel Arc 在內的多種硬體上執行。據 ZML 創始人 Steeve Morin 介紹,透過其新推出的 LLM 推理伺服器 ZML/LLMD,該公司旨在打破現有的壁壘,並最大化不同





首頁






