Ứng dụng AI Địa phương Ollama Đơn giản hóa Sử dụng trên MacOS

Nếu bạn muốn giữ dữ liệu của mình riêng tư và không muốn cung cấp thông tin cho các hồ sơ hoặc tập dữ liệu của bên thứ ba, việc sử dụng AI cài đặt cục bộ cho nghiên cứu của bạn là một lựa chọn thông minh. Tôi đã sử dụng Ollama mã nguồn mở trên hệ thống Linux của mình, được tăng cường bởi một tiện ích mở rộng trình duyệt tiện lợi để có trải nghiệm mượt mà hơn. Nhưng khi chuyển sang MacOS, tôi chọn một ứng dụng miễn phí, đơn giản có tên là Msty.

Ngoài ra: Cách biến Ollama từ công cụ dòng lệnh thành AI dựa trên trình duyệt với tiện ích mở rộng miễn phí này

Msty rất linh hoạt, cho phép bạn khai thác cả mô hình AI cài đặt cục bộ và trực tuyến. Cá nhân tôi chọn lựa cục bộ để đảm bảo tối đa quyền riêng tư. Điều làm Msty nổi bật so với các công cụ Ollama khác là sự đơn giản của nó - không cần containers, dòng lệnh hay thêm các tab trình duyệt.

Ứng dụng này chứa đựng nhiều tính năng giúp việc sử dụng trở nên dễ dàng. Bạn có thể chạy nhiều truy vấn cùng lúc với chức năng trò chuyện chia tách, tái tạo phản hồi của mô hình, nhân bản trò chuyện và thậm chí thêm nhiều mô hình. Có khả năng triệu hồi dữ liệu theo thời gian thực (mặc dù phụ thuộc vào từng mô hình), và bạn có thể tạo Knowledge Stacks để huấn luyện mô hình cục bộ của mình với các tệp, thư mục, kho Obsidian, ghi chú và nhiều hơn nữa. Ngoài ra, còn có một thư viện lời nhắc để giúp bạn tận dụng tối đa các truy vấn của mình.

Msty chắc chắn là một trong những cách tốt nhất để tương tác với Ollama. Dưới đây là cách bạn có thể bắt đầu:

Cài đặt Msty

Những gì bạn cần: Chỉ cần một thiết bị MacOS và Ollama đã được cài đặt và chạy. Nếu bạn chưa thiết lập Ollama, hãy làm theo các bước tại đây. Đừng quên tải xuống một mô hình cục bộ nữa.

1. Tải xuống trình cài đặt

   Truy cập trang web Msty, nhấp vào dropdown Tải xuống Msty, chọn Mac, sau đó chọn Apple Silicon hoặc Intel dựa trên thiết bị của bạn.

2. Cài đặt Msty

   Khi tải xuống hoàn tất, nhấp đúp vào tệp và kéo biểu tượng Msty vào thư mục Applications khi được yêu cầu.

Sử dụng Msty

1. Mở Msty

   Khởi chạy Msty từ Launchpad trên MacOS của bạn.

2. Kết nối mô hình Ollama cục bộ của bạn

   Khi lần đầu mở Msty, nhấp vào Thiết lập AI Cục bộ. Nó sẽ tải xuống các thành phần cần thiết và cấu hình mọi thứ cho bạn, bao gồm cả việc tải xuống một mô hình cục bộ khác ngoài Ollama.

   Để liên kết Msty với Ollama, điều hướng đến Mô hình AI Cục bộ trong thanh bên và nhấp vào nút tải xuống bên cạnh Llama 3.2. Sau khi tải xuống, chọn nó từ dropdown các mô hình. Đối với các mô hình khác, bạn sẽ cần một khóa API từ tài khoản của bạn cho mô hình cụ thể đó. Bây giờ Msty đã được kết nối với LLM Ollama cục bộ của bạn.

   

   Tôi thích sử dụng mô hình Ollama cục bộ cho các truy vấn của mình.

3. Hướng dẫn mô hình

   Một trong những tính năng yêu thích của tôi trong Msty là khả năng tùy chỉnh hướng dẫn mô hình. Dù bạn cần AI hoạt động như một bác sĩ, một nhà văn, một kế toán, một nhà nhân chủng học ngoài hành tinh hay một cố vấn nghệ thuật, Msty đều đáp ứng được.

   Để điều chỉnh hướng dẫn mô hình, nhấp vào Chỉnh sửa Hướng dẫn Mô hình ở giữa ứng dụng, sau đó nhấn vào nút trò chuyện nhỏ bên trái biểu tượng chổi. Từ menu popup, chọn hướng dẫn bạn muốn và nhấp vào "Áp dụng cho cuộc trò chuyện này" trước khi bạn chạy truy vấn đầu tiên của mình.

   

   Có rất nhiều hướng dẫn mô hình để lựa chọn, giúp bạn tinh chỉnh các truy vấn cho nhu cầu cụ thể.

Hướng dẫn này sẽ giúp bạn nhanh chóng bắt đầu với Msty. Bắt đầu với những điều cơ bản và khi bạn cảm thấy thoải mái hơn với ứng dụng, hãy khám phá các tính năng nâng cao của nó. Đây là một công cụ mạnh mẽ có thể thực sự nâng cao trải nghiệm AI cục bộ của bạn trên MacOS.