Ollama

Ollama مقامی طور پر بڑے زبان کے ماڈلز چلانے کے لیے ایک اوپن سورس ٹول ہے۔ یہ آپ کو اپنی مشین پر ماڈلز کو ڈاؤن لوڈ، چلانے اور ان کا نظم کرنے دیتا ہے، مقامی طور پر کارکردگی کا مظاہرہ کرتے ہوئے۔ کارکردگی اور دستیاب ماڈلز آپ کے ہارڈ ویئر اور کنفیگریشن پر منحصر ہیں۔

درخواست اور سیٹ اپ کا عمل

1. کھولیں Ollama ویب سائٹ پر جائیں اور اپنے آپریٹنگ سسٹم کے لیے انسٹالر ڈاؤن لوڈ کریں۔
2. ماڈلز پر جائیںhttps://ollama.com/library)، جس ماڈل کی آپ کو ضرورت ہے اسے منتخب کریں، اور ٹرمینل میں کمانڈ چلائیں (جیسے، ollama pull translategemma:4b) ڈاؤن لوڈ کرنے کے لیے translategemma:4b ماڈل
3. شروع کریں۔ Ollama: دوڑنا ollama run translategemma:4b ٹرمینل میں سسٹم خود بخود ڈیفالٹ استعمال کرے گا۔ API key، لہذا آپ ترجمے کی خدمت کو دستی طور پر داخل کیے بغیر استعمال کرنا شروع کر سکتے ہیں۔
4. اگر آپ کو کوئی مسئلہ درپیش ہے یا کوئی تجاویز ہیں تو آپ انہیں فیڈ بیک پر جمع کر سکتے ہیں/ur/feedback) صفحہ۔

اکثر پوچھے گئے سوالات

اگر آپ نے کامیابی سے چلایا ہے۔ Ollama پروگرام اور صحیح طریقے سے ماڈل کا نام درج کیا اور API endpoint ترجمے کے ماڈلز کی ترتیبات میں، لیکن پھر بھی 403 خرابی کا سامنا کرنا پڑتا ہے، یہ مقامی نیٹ ورک کراس اوریجن مسئلہ کی وجہ سے ہوسکتا ہے۔ CORS سپورٹ کو فعال کرنے کے لیے اپنے آپریٹنگ سسٹم کے لیے درج ذیل مراحل پر عمل کریں۔

• Windows کنٹرول پینل کھولیں → سسٹم → ایڈوانسڈ سسٹم سیٹنگز → ماحولیات کے متغیرات، اور صارف کے متغیرات کے تحت، دو نئے ماحولیاتی متغیرات شامل کریں:
  1. OLLAMA_HOST: سیٹ کرنا 0.0.0.0
  2. OLLAMA_ORIGINS: سیٹ کرنا *(تمام اصل سے رسائی کی اجازت دیں)
  3. محفوظ کرنے کے بعد، دوبارہ شروع کریں۔ Ollama پروگرام
• macOS ٹرمینل میں، چلائیں launchctl setenv OLLAMA_ORIGINS "*" اور پھر شروع کریں Ollama پروگرام
• Linux ٹرمینل میں، چلائیں OLLAMA_ORIGINS="*" ollama serve اور پھر شروع کریں Ollama پروگرام