Ollama

Ollama adalah alat sumber terbuka untuk menjalankan model bahasa besar secara lokal. Ini memungkinkan Anda mengunduh, menjalankan, dan mengelola model di mesin Anda sendiri, dengan inferensi dilakukan secara lokal. Performa dan model yang tersedia bergantung pada perangkat keras dan konfigurasi Anda.

Proses Aplikasi dan Pengaturan

1. Buka Ollama situs web dan unduh penginstal untuk sistem operasi Anda.
2. Buka model, pilih model yang Anda perlukan, dan jalankan perintah di terminal (mis., ollama pull translategemma:4b) untuk mengunduh translategemma:4b model.
3. Mulai Ollama: lari ollama run translategemma:4b di terminal. Sistem secara otomatis akan menggunakan default API key, sehingga Anda dapat mulai menggunakan layanan terjemahan tanpa memasukkannya secara manual.
4. Jika Anda mengalami masalah atau memiliki saran, Anda dapat mengirimkannya di Masukan halaman.

Pertanyaan yang sering diajukan

Jika Anda sudah berhasil menjalankan Ollama program dan memasukkan nama model dan dengan benar API endpoint di Pengaturan Model Terjemahan, namun masih mengalami kesalahan 403, mungkin karena masalah lintas asal jaringan lokal. Ikuti langkah-langkah di bawah ini untuk sistem operasi Anda untuk mengaktifkan dukungan CORS.

• Windows Buka Panel Kontrol → Sistem → Pengaturan sistem lanjutan → Variabel Lingkungan, dan di bawah Variabel pengguna, tambahkan dua variabel lingkungan baru:
  1. OLLAMA_HOST: diatur ke 0.0.0.0
  2. OLLAMA_ORIGINS: diatur ke *(izinkan akses dari semua asal)
  3. Setelah menyimpan, restart Ollama program.
• macOS Di terminal, jalankan launchctl setenv OLLAMA_ORIGINS "*" dan kemudian mulai Ollama program.
• Linux Di terminal, jalankan OLLAMA_ORIGINS="*" ollama serve dan kemudian mulai Ollama program.