Приложение Ollama для локального ИИ упрощает использование на MacOS

Если вы хотите сохранить свои данные в тайне и не передавать их сторонним профилям или наборам для обучения, использование локально установленного ИИ для исследований — разумный шаг. Я использую открытый исходный код Ollama на своей системе Linux, улучшенный удобным расширением для браузера для более плавного опыта. Но когда я переключаюсь на MacOS, я выбираю простое и бесплатное приложение под названием Msty.

Также: Как превратить Ollama из терминального инструмента в браузерный ИИ с помощью этого бесплатного расширения

Msty универсален, позволяя использовать как локально установленные, так и онлайн-модели ИИ. Лично я придерживаюсь локального варианта для максимальной конфиденциальности. Что выделяет Msty среди других инструментов Ollama, так это его простота — не нужно использовать контейнеры, терминалы или дополнительные вкладки браузера.

Приложение наполнено функциями, которые делают его использование легким. Вы можете одновременно запускать несколько запросов с разделенными чатами, перегенерировать ответы модели, клонировать чаты и даже добавлять несколько моделей. Есть вызов данных в реальном времени (хотя это зависит от модели), и вы можете создавать стеки знаний для обучения вашего локального модели файлами, папками, хранилищами Obsidian, заметками и прочим. Кроме того, есть библиотека подсказок, чтобы вы могли извлечь максимум из своих запросов.

Msty, безусловно, один из лучших способов взаимодействия с Ollama. Вот как вы можете начать:

Установка Msty

Что вам понадобится: только устройство MacOS и установленный и запущенный Ollama. Если вы еще не настроили Ollama, следуйте этим шагам. Не забудьте также загрузить локальную модель.

1. Загрузка установщика

   Перейдите на сайт Msty, нажмите на выпадающий список "Загрузить Msty", выберите Mac, а затем выберите Apple Silicon или Intel в зависимости от вашего устройства.

2. Установка Msty

   Когда загрузка завершится, дважды щелкните по файлу и перетащите иконку Msty в папку "Приложения", когда появится запрос.

Использование Msty

1. Открытие Msty

   Запустите Msty из Launchpad на вашем MacOS.

2. Подключение вашего локального модели Ollama

   Когда вы впервые откроете Msty, нажмите на "Настроить локальный ИИ". Он загрузит необходимые компоненты и настроит все за вас, включая загрузку локальной модели, отличной от Ollama.

   Чтобы связать Msty с Ollama, перейдите к "Локальные модели ИИ" в боковой панели и нажмите кнопку загрузки рядом с Llama 3.2. После загрузки выберите его из выпадающего списка моделей. Для других моделей вам понадобится ключ API из вашего аккаунта для этой конкретной модели. Теперь Msty должен быть подключен к вашему локальному LLM Ollama.

   

   Я предпочитаю использовать локальную модель Ollama для своих запросов.

3. Инструкции для модели

   Одна из моих любимых функций в Msty — возможность настраивать инструкции для модели. Неважно, нужно ли вам, чтобы ИИ выступал в роли врача, писателя, бухгалтера, инопланетного антрополога или художественного консультанта, Msty вас покроет.

   Чтобы настроить инструкции для модели, нажмите на "Редактировать инструкции для модели" в центре приложения, затем нажмите на маленькую кнопку чата слева от иконки метлы. В появившемся меню выберите нужные инструкции и нажмите "Применить к этому чату" перед тем, как запустить свой первый запрос.

   

   Есть множество инструкций для модели на выбор, что помогает вам уточнять запросы для конкретных нужд.

Это руководство должно помочь вам быстро начать работу с Msty. Начните с основ, и по мере того, как вы станете более уверенными в использовании приложения, исследуйте его более продвинутые функции. Это мощный инструмент, который может действительно улучшить ваш опыт использования локального ИИ на MacOS.