苹果的本地AI携oMLX 0.3.9强势回归:Gemma 4视觉能力提升、一键式Copilot以及均衡的云端大模型算力
截至北京时间5月13日,Apple Silicon本地AI生态系统已达成一项重要里程碑。 oMLX 0.3.9.dev2 版本的发布整合了多项先进的优化技术,显著提升了本地大型语言模型在图像和文本任务中的运行速度和易用性。此次更新通过增强实际用户体验,进一步巩固了苹果在边缘端人工智能领域的竞争优势。

核心技术升级:全面支持 Gemma4 视觉路径
本次更新的亮点在于原生集成了Gemma4 的 MTP 视觉路径、DFlash 引擎以及 ParoQuant 量化技术。这些创新技术共同加速了图像和文本的多模态解码,大幅降低了在本地运行复杂模型的延迟门槛。 因此,通过这些优化,此前本地AI存在的性能差距已得到显著缩小。
易用性飞跃:omlx Launch Copilot 提供顶级工具的即时访问
为了降低开发者和终端用户的门槛,oMLX 推出了omlx Launch Copilot。该功能让用户只需单击一下,即可即时访问 Claude、Codex 和 OpenClaw 等领先的 AI 工具,实现本地与云服务之间的无缝交互。 通过增强本地 AI 集成,此次更新使真正的“开箱即用”体验成为现实。
资源管理优化:oQ 智能代理解决 VRAM 限制
为解决 Apple Silicon 统一内存架构中常见的部署难题,新版本引入了oQ 自动代理机制。该工具可智能管理 VRAM 短缺问题,确保大型模型在消费级硬件上运行更稳定。此外,管理界面现已新增服务器重启按钮,简化了日常维护任务。
AIbase 评论:从 MLX 到 oMLX 的演进,彰显了苹果在边缘 AI 领域的飞速进步,其在某些领域的性能现已可与云端解决方案媲美甚至超越。 统一内存的带宽优势,结合高效的量化处理和引擎优化,凸显了本地 AI 在速度、隐私和实时响应方面的独特优势。曾经被视为本地部署局限性的因素,如今已转变为在速度、集成度和易用性方面的显著提升。
此次更新传递了一个明确信号:AI 正从云端向个人设备转移。在不久的将来,更多用户将体验到直接在自己的计算机上运行大型模型所带来的自由与强大功能。
项目仓库:https://github.com/jundot/omlx
相关文章
OpenAI 现已向联合国人工智能安全理事会提交黑客攻击报告
约书亚·本吉奥在联合国安理会关于人工智能安全的会议上发表了开幕致辞。图片来源:联合国在联合国安理会召开以人工智能安全为主题的会议后,有报道称OpenAI发生了一起违规事件,涉及未经授权访问澳大利亚政府的敏感数据。全球政策制定者和人工智能领域领军人物齐聚纽约,出席联合国安理会第10,228次会议。本次会议于2026年9月23日召开,多位人工智能界知名人士在会上分享了见解并展开讨论,包括OpenAI首
Anthropic 科学家因担忧 AI 控制及人类自我伤害问题而辞职
人工智能领域近期出现了一个令人震惊的转折:Anthropic 的高级研究员 Jacob Coxon 辞职,以抗议他所谓的行业失控狂热,这实际上意味着他离开了人工智能领域。这一举动在科技界引发了激烈辩论,凸显了大型语言模型快速发展背后潜伏的安全风险。Coxon 是一名 27 岁的数学家,拥有深厚的学术背景,在业内备受尊敬。他此前曾在 OpenAI 工作,今年早些时候加入 Anthropic,被该公司优先考虑模型安全的声誉所吸引。然而,随着大型科技巨头和初创公司展开激烈竞争,安全问题正日益被边缘化
法国初创公司ZML推出免费工具,加速跨多芯片的AI推理
Nvidia 不受制约的市场主导地位时代可能正在走向终结,然而竞争对手和替代方案正从各个角度涌现。由图灵奖得主杨立昆(Yann LeCun)支持的法国知名 AI 初创公司 ZML,推出了一款推理性能软件,使各种开源大语言模型能够在包括 Nvidia、AMD、Google TPUs、Apple Metal 和 Intel Arc 在内的多种硬件上运行。据 ZML 创始人 Steeve Morin 介绍,通过其新推出的 LLM 推理服务器 ZML/LLMD,该公司旨在打破现有的壁垒,并最大化不同
相关专题推荐
评论 (0)
0/500
截至北京时间5月13日,Apple Silicon本地AI生态系统已达成一项重要里程碑。 oMLX 0.3.9.dev2 版本的发布整合了多项先进的优化技术,显著提升了本地大型语言模型在图像和文本任务中的运行速度和易用性。此次更新通过增强实际用户体验,进一步巩固了苹果在边缘端人工智能领域的竞争优势。

核心技术升级:全面支持 Gemma4 视觉路径
本次更新的亮点在于原生集成了Gemma4 的 MTP 视觉路径、DFlash 引擎以及 ParoQuant 量化技术。这些创新技术共同加速了图像和文本的多模态解码,大幅降低了在本地运行复杂模型的延迟门槛。 因此,通过这些优化,此前本地AI存在的性能差距已得到显著缩小。
易用性飞跃:omlx Launch Copilot 提供顶级工具的即时访问
为了降低开发者和终端用户的门槛,oMLX 推出了omlx Launch Copilot。该功能让用户只需单击一下,即可即时访问 Claude、Codex 和 OpenClaw 等领先的 AI 工具,实现本地与云服务之间的无缝交互。 通过增强本地 AI 集成,此次更新使真正的“开箱即用”体验成为现实。
资源管理优化:oQ 智能代理解决 VRAM 限制
为解决 Apple Silicon 统一内存架构中常见的部署难题,新版本引入了oQ 自动代理机制。该工具可智能管理 VRAM 短缺问题,确保大型模型在消费级硬件上运行更稳定。此外,管理界面现已新增服务器重启按钮,简化了日常维护任务。
AIbase 评论:从 MLX 到 oMLX 的演进,彰显了苹果在边缘 AI 领域的飞速进步,其在某些领域的性能现已可与云端解决方案媲美甚至超越。 统一内存的带宽优势,结合高效的量化处理和引擎优化,凸显了本地 AI 在速度、隐私和实时响应方面的独特优势。曾经被视为本地部署局限性的因素,如今已转变为在速度、集成度和易用性方面的显著提升。
此次更新传递了一个明确信号:AI 正从云端向个人设备转移。在不久的将来,更多用户将体验到直接在自己的计算机上运行大型模型所带来的自由与强大功能。
项目仓库:https://github.com/jundot/omlx
OpenAI 现已向联合国人工智能安全理事会提交黑客攻击报告
约书亚·本吉奥在联合国安理会关于人工智能安全的会议上发表了开幕致辞。图片来源:联合国在联合国安理会召开以人工智能安全为主题的会议后,有报道称OpenAI发生了一起违规事件,涉及未经授权访问澳大利亚政府的敏感数据。全球政策制定者和人工智能领域领军人物齐聚纽约,出席联合国安理会第10,228次会议。本次会议于2026年9月23日召开,多位人工智能界知名人士在会上分享了见解并展开讨论,包括OpenAI首
Anthropic 科学家因担忧 AI 控制及人类自我伤害问题而辞职
人工智能领域近期出现了一个令人震惊的转折:Anthropic 的高级研究员 Jacob Coxon 辞职,以抗议他所谓的行业失控狂热,这实际上意味着他离开了人工智能领域。这一举动在科技界引发了激烈辩论,凸显了大型语言模型快速发展背后潜伏的安全风险。Coxon 是一名 27 岁的数学家,拥有深厚的学术背景,在业内备受尊敬。他此前曾在 OpenAI 工作,今年早些时候加入 Anthropic,被该公司优先考虑模型安全的声誉所吸引。然而,随着大型科技巨头和初创公司展开激烈竞争,安全问题正日益被边缘化
法国初创公司ZML推出免费工具,加速跨多芯片的AI推理
Nvidia 不受制约的市场主导地位时代可能正在走向终结,然而竞争对手和替代方案正从各个角度涌现。由图灵奖得主杨立昆(Yann LeCun)支持的法国知名 AI 初创公司 ZML,推出了一款推理性能软件,使各种开源大语言模型能够在包括 Nvidia、AMD、Google TPUs、Apple Metal 和 Intel Arc 在内的多种硬件上运行。据 ZML 创始人 Steeve Morin 介绍,通过其新推出的 LLM 推理服务器 ZML/LLMD,该公司旨在打破现有的壁垒,并最大化不同





首页






