Ollama

Ollama — это инструмент с открытым исходным кодом для локального запуска больших языковых моделей. Он позволяет загружать, запускать модели и управлять ими на своем компьютере, при этом логический вывод выполняется локально. Производительность и доступные модели зависят от вашего оборудования и конфигурации.

Процесс подачи заявки и установки

1. Откройте Ollama и загрузите установщик для вашей операционной системы.
2. Перейти к модели, выберите нужную модель и выполните команду в терминале (например, ollama pull translategemma:4b), чтобы загрузить translategemma:4b модель.
3. Старт Ollama: бежать ollama run translategemma:4b в терминале. Система автоматически будет использовать значение по умолчанию. API key, чтобы вы могли начать пользоваться сервисом перевода, не вводя его вручную.
4. Если у вас возникнут какие-либо проблемы или у вас есть предложения, вы можете отправить их в разделе Обратная связь страница.

Часто задаваемые вопросы

Если вы успешно запустили Ollama программу и правильно ввел название модели и API endpoint в Настройках моделей перевода, но по-прежнему возникает ошибка 403. Это может быть связано с проблемой перекрестного происхождения в локальной сети. Выполните следующие действия для вашей операционной системы, чтобы включить поддержку CORS.

• Windows Откройте Панель управления → Система → Дополнительные параметры системы → Переменные среды и в разделе Пользовательские переменные добавьте две новые переменные среды:
  1. OLLAMA_HOST: установлено 0.0.0.0
  2. OLLAMA_ORIGINS: установлено *(разрешить доступ из всех источников)
  3. После сохранения перезапустите Ollama программа.
• macOS В терминале запустите launchctl setenv OLLAMA_ORIGINS "*" а затем запустите Ollama программа.
• Linux В терминале запустите OLLAMA_ORIGINS="*" ollama serve а затем запустите Ollama программа.