Ollama

Ollama یک ابزار منبع باز برای اجرای مدل های زبان بزرگ به صورت محلی است. این به شما امکان می‌دهد مدل‌ها را با استنباط محلی بر روی دستگاه خود دانلود، اجرا و مدیریت کنید. عملکرد و مدل های موجود به سخت افزار و پیکربندی شما بستگی دارد.

فرآیند برنامه و راه اندازی

1. باز کردن Ollama وب سایت و نصب کننده سیستم عامل خود را دانلود کنید.
2. برو به [مدل ها](https://ollama.com/library، مدل مورد نیاز خود را انتخاب کنید و دستور را در ترمینال اجرا کنید (به عنوان مثال، ollama pull translategemma:4b) برای دانلود translategemma:4b مدل
3. شروع کنید Ollama: دویدن ollama run translategemma:4b در ترمینال سیستم به طور خودکار از پیش فرض استفاده می کند API key، بنابراین می توانید بدون وارد کردن دستی از خدمات ترجمه استفاده کنید.
4. اگر با مشکلی مواجه شدید یا پیشنهادی دارید، می توانید آنها را در بازخورد ارسال کنید(/fa/feedback) صفحه.

سوالات متداول

اگر با موفقیت اجرا کرده اید Ollama برنامه و به درستی نام مدل و API endpoint در تنظیمات مدل‌های ترجمه، اما همچنان با خطای 403 مواجه می‌شوید، ممکن است به دلیل مشکل منبع متقابل شبکه محلی باشد. مراحل زیر را برای سیستم عامل خود دنبال کنید تا پشتیبانی CORS را فعال کنید.

• Windows Control Panel → System → Advanced System settings → Environment Variables را باز کنید و در قسمت User variables دو متغیر محیطی جدید اضافه کنید:
  1. OLLAMA_HOST: تنظیم کنید 0.0.0.0
  2. OLLAMA_ORIGINS: تنظیم کنید *(اجازه دسترسی از همه مبدا)
  3. پس از ذخیره، مجدداً راه اندازی کنید Ollama برنامه
• macOS در ترمینال، اجرا کنید launchctl setenv OLLAMA_ORIGINS "*" و سپس شروع کنید Ollama برنامه
• Linux در ترمینال، اجرا کنید OLLAMA_ORIGINS="*" ollama serve و سپس شروع کنید Ollama برنامه