Дом
Локальный ИИ от Apple возвращается с версией oMLX 0.3.9: улучшение возможностей Gemma 4 Vision, Copilot в один клик и сбалансированная мощность крупных облачных моделей
По состоянию на 13 мая по пекинскому времени локальная экосистема искусственного интеллекта на базе Apple Silicon достигла важной вехи. В версии oMLX 0.3.9.dev2 реализовано несколько передовых технологий оптимизации, что существенно повышает скорость работы и доступность локальных крупных языковых моделей для обработки изображений и текста. Это обновление еще больше укрепляет конкурентные преимущества Apple в области периферийного ИИ за счет улучшения реального пользовательского опыта.

Модернизация ключевых технологий: полная поддержка визуального пути Gemma4
Главной особенностью этого обновления является встроенная интеграция визуального пути MTP от Gemma4, движка DFlash и технологии квантования ParoQuant. В совокупности эти инновации ускоряют мультимодальное декодирование изображений и текста, резко снижая задержку при локальном запуске сложных моделей. В результате этих оптимизаций разрыв в производительности, ранее характерный для локального ИИ, был значительно сокращён.
Резкий скачок в удобстве использования: omlx Launch Copilot обеспечивает мгновенный доступ к лучшим инструментам
Чтобы снизить барьер как для разработчиков, так и для конечных пользователей, oMLX представляет omlx Launch Copilot. Эта функция позволяет пользователям одним щелчком мыши мгновенно получить доступ к ведущим инструментам ИИ, таким как Claude, Codex и OpenClaw, обеспечивая беспрепятственное взаимодействие между локальными и облачными сервисами. Благодаря улучшению интеграции локального ИИ это обновление делает реальностью подлинное удобство использования «из коробки».
Оптимизация управления ресурсами: oQ Smart Proxy решает проблемы с ограничениями VRAM
Решая типичные проблемы развертывания в рамках архитектуры унифицированной памяти Apple Silicon, новая версия оснащена механизмом автоматического прокси oQ. Этот инструмент интеллектуально управляет нехваткой VRAM, обеспечивая большую стабильность работы крупных моделей на оборудовании потребительского уровня. Кроме того, интерфейс управления теперь включает кнопку перезапуска сервера, что упрощает выполнение рутинных задач технического обслуживания.
Комментарий AIbase: Эволюция от MLX к oMLX демонстрирует быстрый прогресс Apple в области периферийного ИИ, причём производительность в определённых областях теперь соперничает с облачными решениями или даже превосходит их. Преимущества унифицированной памяти в плане пропускной способности в сочетании с эффективной квантизацией и оптимизацией движка подчеркивают уникальные преимущества локального ИИ с точки зрения скорости, конфиденциальности и оперативности в режиме реального времени. То, что когда-то считалось ограничением локального развертывания, теперь превратилось в заметное улучшение скорости, интеграции и удобства использования.
Это обновление посылает четкий сигнал: ИИ переходит из облака на персональные устройства. В ближайшем будущем всё больше пользователей смогут ощутить свободу и мощь запуска крупных моделей прямо на своих компьютерах.
Репозиторий проекта: https://github.com/jundot/omlx
Связанная статья
Отчеты о взломах OpenAI теперь передаются в Совет ООН по безопасности ИИ
Йошуа Бенжио выступил с вступительной речью на заседании Совета Безопасности ООН, посвящённом безопасности искусственного интеллекта. Источник: ООНПосле заседания Совета Безопасности ООН, посвященного
Учёный Anthropic уходит из-за опасений по поводу контроля над ИИ и причиняемого человеком себе вреда
Недавнее событие в сфере искусственного интеллекта вызвало шок: Джейкоб Коксон, старший исследователь компании Anthropic, подал в отставку в знак протеста против того, что он считает неконтролируемым безумием индустрии, фактически покинув сектор ИИ.
Французский стартап ZML представил бесплатный инструмент для ускорения вывода ИИ на нескольких чипах
Эра безоговорочного доминирования Nvidia на рынке, возможно, подходит к концу, однако конкуренты и альтернативы появляются со всех сторон.ZML, известная французская стартап-компания в сфере искусственного интеллекта, поддерживаемая лауреатом премии
Рекомендации по связанным специальным темам
Комментарии (0)
По состоянию на 13 мая по пекинскому времени локальная экосистема искусственного интеллекта на базе Apple Silicon достигла важной вехи. В версии oMLX 0.3.9.dev2 реализовано несколько передовых технологий оптимизации, что существенно повышает скорость работы и доступность локальных крупных языковых моделей для обработки изображений и текста. Это обновление еще больше укрепляет конкурентные преимущества Apple в области периферийного ИИ за счет улучшения реального пользовательского опыта.

Модернизация ключевых технологий: полная поддержка визуального пути Gemma4
Главной особенностью этого обновления является встроенная интеграция визуального пути MTP от Gemma4, движка DFlash и технологии квантования ParoQuant. В совокупности эти инновации ускоряют мультимодальное декодирование изображений и текста, резко снижая задержку при локальном запуске сложных моделей. В результате этих оптимизаций разрыв в производительности, ранее характерный для локального ИИ, был значительно сокращён.
Резкий скачок в удобстве использования: omlx Launch Copilot обеспечивает мгновенный доступ к лучшим инструментам
Чтобы снизить барьер как для разработчиков, так и для конечных пользователей, oMLX представляет omlx Launch Copilot. Эта функция позволяет пользователям одним щелчком мыши мгновенно получить доступ к ведущим инструментам ИИ, таким как Claude, Codex и OpenClaw, обеспечивая беспрепятственное взаимодействие между локальными и облачными сервисами. Благодаря улучшению интеграции локального ИИ это обновление делает реальностью подлинное удобство использования «из коробки».
Оптимизация управления ресурсами: oQ Smart Proxy решает проблемы с ограничениями VRAM
Решая типичные проблемы развертывания в рамках архитектуры унифицированной памяти Apple Silicon, новая версия оснащена механизмом автоматического прокси oQ. Этот инструмент интеллектуально управляет нехваткой VRAM, обеспечивая большую стабильность работы крупных моделей на оборудовании потребительского уровня. Кроме того, интерфейс управления теперь включает кнопку перезапуска сервера, что упрощает выполнение рутинных задач технического обслуживания.
Комментарий AIbase: Эволюция от MLX к oMLX демонстрирует быстрый прогресс Apple в области периферийного ИИ, причём производительность в определённых областях теперь соперничает с облачными решениями или даже превосходит их. Преимущества унифицированной памяти в плане пропускной способности в сочетании с эффективной квантизацией и оптимизацией движка подчеркивают уникальные преимущества локального ИИ с точки зрения скорости, конфиденциальности и оперативности в режиме реального времени. То, что когда-то считалось ограничением локального развертывания, теперь превратилось в заметное улучшение скорости, интеграции и удобства использования.
Это обновление посылает четкий сигнал: ИИ переходит из облака на персональные устройства. В ближайшем будущем всё больше пользователей смогут ощутить свободу и мощь запуска крупных моделей прямо на своих компьютерах.
Репозиторий проекта: https://github.com/jundot/omlx
Отчеты о взломах OpenAI теперь передаются в Совет ООН по безопасности ИИ
Йошуа Бенжио выступил с вступительной речью на заседании Совета Безопасности ООН, посвящённом безопасности искусственного интеллекта. Источник: ООНПосле заседания Совета Безопасности ООН, посвященного
Учёный Anthropic уходит из-за опасений по поводу контроля над ИИ и причиняемого человеком себе вреда
Недавнее событие в сфере искусственного интеллекта вызвало шок: Джейкоб Коксон, старший исследователь компании Anthropic, подал в отставку в знак протеста против того, что он считает неконтролируемым безумием индустрии, фактически покинув сектор ИИ.
Французский стартап ZML представил бесплатный инструмент для ускорения вывода ИИ на нескольких чипах
Эра безоговорочного доминирования Nvidia на рынке, возможно, подходит к концу, однако конкуренты и альтернативы появляются со всех сторон.ZML, известная французская стартап-компания в сфере искусственного интеллекта, поддерживаемая лауреатом премии











