Osaurus 在 Mac 上整合本地和云端 AI 模型

随着人工智能模型日益商品化，初创公司正竞相开发基于这些模型的软件层。该领域的一家知名企业是 Osaurus，这是一个开源的、仅限 Mac 使用的 LLM 服务器。它允许用户在不同的本地或云端人工智能模型之间切换，同时将文件和工具安全地保存在自己的硬件上。

Osaurus源于一个名为Dinoki的桌面AI助手概念，联合创始人Terence Pae将其比作“由AI驱动的Clippy”。潜在客户质疑：如果仍需为代币付费——即AI公司为处理提示词和生成响应所收取的费用单位——他们为何还要购买该应用？

这促使Pae更深入地探索在本地运行AI的可能性。

“这就是Osaurus的起源，”曾任职于特斯拉和网飞的软件工程师Pae向TechCrunch解释道。最初的想法是尝试在用户设备上直接运行AI助手。“在Mac上几乎所有操作都能本地完成，比如浏览文件、访问网页浏览器以及检查系统配置。我意识到这使Osaurus完美地定位为面向个人用户的个人AI。”

Pae 公开将该工具作为开源项目进行开发，并在整个过程中持续添加功能并修复漏洞。

图片来源：Osaurus, Inc.

如今，Osaurus 提供了灵活的连接方式，既可对接本地部署的 AI 模型，也可连接 OpenAI 和 Anthropic 等云服务提供商。用户可以自由选择自己偏好的 AI 模型，同时将 AI 体验的其他方面——例如模型的内存、个人文件和工具——保留在自己的硬件上。

由于不同AI模型各具优势，该系统的核心价值在于让用户能够根据具体任务需求，灵活切换最合适的模型。

这种架构使 Osaurus 被归类为“调度器”——一种控制层，通过单一界面集成各种 AI 模型、工具和工作流，类似于 OpenClaw 或 Hermes 等平台。然而，此类工具通常面向熟悉终端命令的开发者设计。在某些情况下，如 OpenClaw，它们还可能引入安全漏洞。

相比之下，Osaurus 为普通用户提供了友好的界面，并通过在硬件隔离的虚拟沙箱中运行来保障安全。这将 AI 的访问权限限制在定义的范围内，从而保护您的计算机和数据。

图片来源：Osaurus, Inc.

本地运行 AI 模型仍处于发展初期，因为这需要大量资源且高度依赖硬件。要运行本地模型，您的系统至少需要 64 GB 内存。对于 DeepSeek v4 这样的大型模型，Pae 建议使用配备约 128 GB 内存的系统。

尽管如此，Pae 相信本地 AI 的硬件需求会随着时间的推移而降低。

“我看好其潜力，因为‘每瓦智能’——这一本地AI的关键指标——正呈现爆发式增长。它正沿着自己的创新轨迹前行。去年，本地AI还难以完成句子，但如今它已能运行工具、编写代码、访问浏览器，甚至在亚马逊上下单。它正在持续进步，”他指出。

图片来源：Osaurus, Inc.

目前，Osaurus支持的模型包括MiniMax M2.5、Gemma 4、Qwen3.6、GPT-OSS、Llama和DeepSeek V4。 它还集成了苹果的设备端基础模型、Liquid AI的LFM系列设备端模型，并支持与OpenAI、Anthropic、Gemini、xAI/Grok、Venice AI、OpenRouter、Ollama及LM Studio的云端连接。

作为完整的模型上下文协议（MCP）服务器，它允许任何兼容 MCP 的客户端访问您的工具。此外，它预装了 20 多个原生插件，涵盖邮件、日历、视觉、macOS 实用工具、XLSX、PPTX、浏览器、音乐、Git、文件系统、搜索、Fetch 等功能。

最近的一次更新为 Osaurus 增添了语音功能。

据其官网显示，自近一年前发布以来，该项目已被下载超过11.2万次。

包括联合创始人 Sam Yoo 在内的创始团队目前正参与纽约初创企业加速器 Alliance 的项目。他们还正在规划未来的发展方向，可能包括向法律或医疗保健等行业的企业提供 Osaurus 服务，在这些领域，本地化 LLM 有助于解决数据隐私问题。

随着本地AI模型日益强大，团队认为这将有助于减少对大型AI数据中心的依赖。

“我们正见证人工智能的爆发式增长，云服务提供商必须借助庞大的数据中心和基础设施来实现规模化。然而，我们认为本地AI的价值仍未得到充分认可，”裴表示。“与其依赖云端，企业不妨在本地部署一台Mac Studio，这样能耗将大幅降低。您既能保留云端般的功能，又无需依赖远程数据中心来运行AI，”他补充道。