Ollama

Ollama هي أداة مفتوحة المصدر لتشغيل نماذج اللغات الكبيرة محليًا. فهو يتيح لك تنزيل النماذج وتشغيلها وإدارتها على جهازك الخاص، مع إجراء الاستدلال محليًا. يعتمد الأداء والنماذج المتوفرة على أجهزتك وتكوينك.

عملية التطبيق والإعداد

1. افتح Ollama موقع الويب وقم بتنزيل برنامج التثبيت لنظام التشغيل الخاص بك.
2. انتقل إلى النماذج، حدد النموذج الذي تحتاجه، وقم بتشغيل الأمر في الوحدة الطرفية (على سبيل المثال، ollama pull translategemma:4b) لتحميل translategemma:4b نموذج.
3. ابدأ Ollama: تشغيل ollama run translategemma:4b في المحطة. سيستخدم النظام تلقائيًا الإعداد الافتراضي API key، حتى تتمكن من البدء في استخدام خدمة الترجمة دون إدخالها يدويًا.
4. إذا واجهت أي مشاكل أو لديك اقتراحات، يمكنك إرسالها على التعليقات الصفحة.

الأسئلة المتداولة

إذا قمت بتشغيل بنجاح Ollama البرنامج وأدخلت اسم النموذج و API endpoint في إعدادات نماذج الترجمة، ولكن لا تزال تواجه خطأ 403، قد يكون ذلك بسبب مشكلة عبر الشبكة المحلية. اتبع الخطوات أدناه لنظام التشغيل الخاص بك لتمكين دعم CORS.

• Windows افتح لوحة التحكم ← النظام ← إعدادات النظام المتقدمة ← متغيرات البيئة، وضمن متغيرات المستخدم، أضف متغيرين جديدين للبيئة:
  1. OLLAMA_HOST: اضبط على 0.0.0.0
  2. OLLAMA_ORIGINS: اضبط على *(السماح بالوصول من جميع الأصول)
  3. بعد الحفظ قم بإعادة تشغيل Ollama برنامج.
• macOS في المحطة، تشغيل launchctl setenv OLLAMA_ORIGINS "*" ثم ابدأ Ollama برنامج.
• Linux في المحطة، تشغيل OLLAMA_ORIGINS="*" ollama serve ثم ابدأ Ollama برنامج.