Osaurus объединяет локальные и облачные модели искусственного интеллекта на Mac

По мере того как модели искусственного интеллекта становятся все более доступными, стартапы соревнуются в разработке программного обеспечения, работающего на их основе. Одним из заметных игроков в этой сфере является Osaurus — сервер LLM с открытым исходным кодом, доступный исключительно для Mac. Он позволяет пользователям переключаться между различными локальными или облачными моделями ИИ, при этом их файлы и инструменты надежно хранятся на собственном оборудовании.

Osaurus возник из концепции настольного ИИ-помощника под названием Dinoki, который соучредитель компании Теренс Пэ сравнил с «Clippy на базе ИИ». Потенциальные клиенты задавали вопрос, зачем им покупать приложение, если им все равно придется платить за токены — единицы, которые компании, занимающиеся ИИ, взимают за обработку запросов и генерацию ответов.

Это побудило Пэ более глубоко изучить возможности локального запуска ИИ.

«Так и зародился Osaurus», — пояснил TechCrunch Пэй, бывший инженер-программист в Tesla и Netflix. Первоначальная идея заключалась в попытке запустить ИИ-помощника непосредственно на устройстве пользователя. «На Mac можно выполнять практически все локально, например просматривать файлы, запускать веб-браузер и проверять системные настройки. Я понял, что это идеально позиционирует Osaurus как личный ИИ для отдельных пользователей».

Пэ начал публично разрабатывать инструмент в качестве проекта с открытым исходным кодом, постоянно добавляя функции и устраняя ошибки в ходе всего процесса.

Изображения предоставлены: Osaurus, Inc.

Сегодня Osaurus предлагает гибкие возможности подключения к локально размещенным моделям ИИ или облачным провайдерам, таким как OpenAI и Anthropic. Пользователи могут свободно выбирать предпочитаемую модель ИИ, сохраняя при этом другие аспекты работы с ИИ — такие как память модели, личные файлы и инструменты — на своем собственном оборудовании.

Поскольку разные модели ИИ обладают уникальными преимуществами, преимущество этой системы заключается в том, что она позволяет пользователям переключаться на модель, наиболее подходящую для их конкретной задачи.

Такая архитектура позволяет отнести Osaurus к категории «шлейфов» — управляющих слоев, которые объединяют различные модели ИИ, инструменты и рабочие процессы через единый интерфейс, подобно таким платформам, как OpenClaw или Hermes. Однако подобные инструменты часто разрабатываются для разработчиков, привыкших работать с терминальными командами. В некоторых случаях, как, например, с OpenClaw, они также могут создавать уязвимости в системе безопасности.

В отличие от них, Osaurus предоставляет удобный интерфейс для обычных пользователей и решает проблемы безопасности, работая в виртуальной песочнице с аппаратной изоляцией. Это ограничивает доступ ИИ к определенной области, защищая ваш компьютер и данные.

Изображения предоставлены: Osaurus, Inc.

Локальное запускание моделей ИИ все еще находится в стадии развития, так как требует значительных ресурсов и в значительной степени зависит от аппаратного обеспечения. Для работы с локальными моделями вашей системе требуется как минимум 64 ГБ оперативной памяти. Для более крупных моделей, таких как DeepSeek v4, Пэ рекомендует системы с примерно 128 ГБ оперативной памяти.

Тем не менее, Пэ уверен, что требования к аппаратному обеспечению для локального ИИ со временем снизятся.

«Я вижу его потенциал, потому что интеллект на ватт — ключевой показатель для локального ИИ — резко растет. Он находится на собственной траектории инноваций. В прошлом году локальный ИИ с трудом составлял предложения, но сегодня он может запускать инструменты, писать код, открывать браузер и даже делать заказы на Amazon. Он постоянно совершенствуется», — отметил он.

Изображения предоставлены: Osaurus, Inc.

В настоящее время Osaurus поддерживает такие модели, как MiniMax M2.5, Gemma 4, Qwen3.6, GPT-OSS, Llama и DeepSeek V4. Он также интегрирует базовые модели Apple для устройств, семейство моделей LFM от Liquid AI для устройств и облачные подключения к OpenAI, Anthropic, Gemini, xAI/Grok, Venice AI, OpenRouter, Ollama и LM Studio.

Как полноценный сервер Model Context Protocol (MCP), он предоставляет любому MCP-совместимому клиенту доступ к вашим инструментам. Кроме того, он поставляется с более чем 20 встроенными плагинами для Mail, Calendar, Vision, утилит macOS, XLSX, PPTX, браузера, Music, Git, файловой системы, поиска, Fetch и других.

В последнем обновлении в Osaurus добавлена поддержка голосовых команд.

Согласно информации на сайте, с момента запуска почти год назад проект был скачан более 112 000 раз.

Основатели, в том числе соучредитель Сэм Ю, в настоящее время участвуют в работе нью-йоркского акселератора стартапов Alliance. Они также планируют дальнейшие шаги, которые могут включать предложение Osaurus для предприятий в таких секторах, как юридическая сфера или здравоохранение, где локальные LLM могли бы помочь решить проблемы конфиденциальности данных.

По мере того как локальные модели ИИ становятся все более мощными, команда считает, что они могут снизить зависимость от крупномасштабных центров обработки данных ИИ.

«Мы наблюдаем взрывной рост ИИ, когда облачные провайдеры вынуждены масштабироваться с помощью огромных центров обработки данных и инфраструктуры. Тем не менее, мы считаем, что ценность локального ИИ по-прежнему недооценивается», — заявил Пэ. «Вместо того чтобы полагаться на облако, организации могли бы развернуть Mac Studio на своих площадях, что потребовало бы значительно меньше энергии. Вы сохраняете возможности, подобные облачным, не завися при этом от удаленного центра обработки данных для работы вашего ИИ», — добавил он.