Ollama

Ollama là một công cụ để chạy và quản lý các mô hình ngôn ngữ lớn một cách nguyên bản. Hướng dẫn này chỉ cho bạn cách cài đặt Ollama, tải xuống và chạy mô hình cục bộ cũng như hoàn tất cấu hình trong SelectTranslate.

Quá trình triển khai và cấu hình cục bộ

  1. Truy cập Trang web chính thức của Ollama, tải xuống và cài đặt chương trình cho hệ điều hành hiện tại của bạn.
  2. Đi đến Danh sách mẫu, chọn mẫu phù hợp với cấu hình cục bộ và thực hiện lệnh tải xuống trong thiết bị đầu cuối, chẳng hạn như ollama pull translategemma:4b.
  3. Thực thi ollama run translategemma:4b để chạy mô hình và xem tên mô hình đã cài đặt thông qua ollama list.
  4. Chọn Ollama trong cài đặt "Translation Model" của SelectTranslate, điền tên model và địa chỉ API để hoàn tất cấu hình.
  5. Nếu bạn gặp vấn đề hoặc có đề xuất trong quá trình sử dụng, bạn có thể liên hệ với chúng tôi thông qua Phản hồi vấn đề.

Câu hỏi thường gặp

Nếu SelectTranslate không thể kết nối với Ollama và thông báo lỗi liên quan đến 403 hoặc hạn chế truy cập nhiều miền của trình duyệt, bạn có thể thử định cấu hình biến môi trường OLLAMA_ORIGINS để cho phép tiện ích mở rộng trình duyệt truy cập vào dịch vụ Ollama cục bộ. Chọn phương pháp cài đặt tương ứng theo hệ điều hành:

  • Windows: Thoát Ollama và mở Bảng điều khiển → Hệ thống và bảo mật → Hệ thống → Cài đặt hệ thống nâng cao → Biến môi trường. Tạo hoặc chỉnh sửa OLLAMA_ORIGINS trong "Biến người dùng", đặt giá trị biến thành chrome-extension://*,moz-extension://*,safari-web-extension://*, lưu và khởi động lại Ollama.
  • macOS: Thoát Ollama, mở một thiết bị đầu cuối, thực thi launchctl setenv OLLAMA_ORIGINS "chrome-extension://*,moz-extension://*,safari-web-extension://*" rồi khởi động lại Ollama.
  • Linux: dừng dịch vụ Ollama hiện đang chạy, thực thi OLLAMA_ORIGINS="chrome-extension://*,moz-extension://*,safari-web-extension://*" ollama serve trong thiết bị đầu cuối và khởi động Ollama thông qua lệnh này.

Cấu hình này cho phép tất cả các tiện ích mở rộng trong Chrome, Firefox và Safari truy cập Ollama, không chỉ SelectTranslate.