Как настроить Ollama для локальных моделей

После этой настройки вы сможете установить Ollama, запустить первую локальную модель через CLI и проверить, что она действительно работает на вашей машине через ollama run, ollama ps и локальный адрес http://localhost:11434/api.

Инструкция основана только на официальных документах Ollama и странице релизов, проверенных по состоянию на 2026-08-17. Последний подтверждённый релиз в source pack — v0.32.14 от 2026-08-15.

• ⏱️ Время: 15–30 минут плюс время загрузки выбранной модели
• 🎯 Сложность: начальный
• 💰 Стоимость: в официальных источниках для локальной установки цена не подтверждена; условия для облачных или авторизованных возможностей проверяйте отдельно на официальном сайте
• 🛠️ Что потребуется: macOS Sonoma 14+ или Windows, или Linux; терминал / PowerShell; доступ к скачиванию инсталлятора или install script; свободное место под модель
• 📌 Актуальная версия: Ollama v0.32.14, источники проверены на 2026-08-17

Практический вердикт: если вам нужен самый короткий путь к локальным моделям, выбирайте нативную установку под свою ОС, затем проверяйте её командами ollama -v, ollama run gemma4 и ollama ps. Редакционное ограничение: source pack подтверждает endpoint /api/generate и наличие официального локального curl-примера, но не содержит дословный JSON-текст этого примера, поэтому для низкоуровневой HTTP-проверки я ссылаюсь на официальный образец, а не переписываю его неточно.

Какой вариант установки выбрать

Если вы не уверены, какой путь выбрать, начинайте с нативной установки. Docker имеет смысл, когда вам нужен изолированный runtime или вы готовите локальный inference-сервер для других приложений.

Пошаговая настройка Ollama

1. Шаг 1. Выберите нативную установку или Docker.

   Для обычного локального использования берите нативный вариант под вашу ОС. Для macOS официальный путь — приложение из ollama.dmg, для Windows — OllamaSetup.exe, для Linux — install script. Docker выбирайте только если вам действительно нужна контейнеризация.

   Ожидаемый результат: вы понимаете, по какому пути пойдёте дальше и какие ограничения у него есть.

2. Шаг 2. Установите Ollama под свою ОС.

   macOS: скачайте ollama.dmg с официальной страницы и перетащите приложение в Applications. По документации приложение проверяет, что CLI ollama доступен в PATH.

   Windows: запустите OllamaSetup.exe. Если нужен нестандартный путь установки, официальная страница указывает вариант с параметром /DIR=.... Права Administrator по документации не требуются.

   Linux: выполните официальный install script:

   curl -fsSL https://ollama.com/install.sh | sh

   Если вам нужно закрепить конкретную версию на Linux, официальный раздел Linux указывает, что это делается через переменную OLLAMA_VERSION и повторный запуск install script.

   Ожидаемый результат: Ollama установлен, и вы готовы проверять CLI.

3. Шаг 3. Проверьте, что CLI работает.

   Откройте Terminal, PowerShell или другой системный терминал и выполните:

   ollama -v

   Это официальный способ проверить установленную версию. Если вы специально закрепляли релиз на Linux, здесь отобразится именно он; если ставили актуальную сборку, сверяйте её с подтверждённым релизом из страницы Releases.

   Ожидаемый результат: команда печатает версию Ollama, а не ошибку о том, что команда не найдена.

4. Шаг 4. Запустите первую локальную модель.

   Для первого запуска официальный quickstart предлагает команду:

   ollama run gemma4

   При первом старте Ollama скачает нужные файлы модели, затем откроет локальный чат в терминале. Когда проверка закончится, выйдите из чата командой:

   /bye

   Этот шаг важнее любой абстрактной «установки»: если локальный чат стартовал, значит Ollama уже умеет скачивать и запускать модели на вашей машине.

   Ожидаемый результат: вы видите интерактивный локальный чат с моделью и можете корректно выйти через /bye.

5. Шаг 5. Если вы на Linux и вам нужен отдельный локальный API-процесс, поднимите сервер командой ollama serve.

   Официальный Linux-раздел указывает именно эту команду для старта сервера:

   ollama serve

   Это полезно, если вы хотите обращаться к локальной модели не из интерактивного терминального чата, а из редактора, скрипта или собственного приложения.

   Ожидаемый результат: локальный сервис Ollama поднят и готов принимать обращения по адресу http://localhost:11434/api.

6. Шаг 6. Проверьте, какая модель загружена и где она выполняется — на CPU или GPU.

   Официальный FAQ рекомендует для этого команду:

   ollama ps

   Она показывает, какие модели сейчас загружены, и помогает понять, пошёл ли запуск на CPU или GPU. Для практики это главный быстрый тест после первого старта, особенно на Apple M-series, NVIDIA или AMD-хостах.

   Ожидаемый результат: вы видите список активных моделей и их размещение на CPU или GPU.

7. Шаг 7. При необходимости перенесите каталог моделей.

   Если модели должны храниться не на системном диске, используйте переменную окружения OLLAMA_MODELS. Официальный FAQ подтверждает, что она меняет каталог моделей, а путь по умолчанию зависит от ОС. Для macOS официальный раздел отдельно указывает, что модели и конфигурация хранятся в ~/.ollama.

   Ожидаемый результат: вы понимаете, где искать файлы модели сейчас и как перенести последующие загрузки в другой каталог.

Если вам нужен Docker-вариант

Официальный Docker quickstart подтверждает три сценария:

• для CPU — образ ollama/ollama;
• для AMD — образ ollama/ollama:rocm;
• для NVIDIA — запуск с --gpus=all и заранее установленным NVIDIA Container Toolkit.

После старта контейнера официальная проверка модели выглядит так:

docker exec -it ollama ollama run llama3.2

Это хороший путь для серверов и CI-окружений, но не самый короткий для первого знакомства с локальными моделями.

Как проверить, что всё работает

• Выполните ollama -v. Команда должна вернуть версию установленного Ollama.
• Выполните ollama run gemma4. Должен открыться локальный чат; завершить его можно через /bye.
• Выполните ollama ps. Вы должны увидеть, какая модель сейчас загружена и работает ли она на CPU или GPU.
• Проверьте, что локальная API-база находится на http://localhost:11434/api. Для HTTP-проверки endpoint /api/generate используйте официальный пример со страницы Generate a response.

Если эти проверки проходят, базовая настройка Ollama для локальных моделей завершена.

Частые ошибки и исправления

• ❌ Ошибка: команда ollama -v не выполняется.
  ✅ Решение: проверьте, что установка завершилась корректно. Для macOS официальный раздел отдельно говорит, что приложение проверяет наличие CLI в PATH; для Linux переустановите через официальный install script и снова проверьте версию.
• ❌ Ошибка: на Linux локальный API не отвечает.
  ✅ Решение: поднимите сервер командой ollama serve. Именно она указана в официальном Linux-разделе как команда запуска.
• ❌ Ошибка: модель загрузилась не на тот диск или быстро закончилась память на системном разделе.
  ✅ Решение: перенесите каталог моделей через OLLAMA_MODELS. Официальный FAQ подтверждает, что эта переменная меняет путь хранения моделей.
• ❌ Ошибка: вы ожидали GPU, но модель идёт на CPU.
  ✅ Решение: выполните ollama ps и проверьте фактическое размещение. Помните, что x86 Mac по официальной странице macOS работает только на CPU, а Docker на macOS не подтверждает GPU passthrough.
• ❌ Ошибка: вы хотите обновиться или закрепить конкретный релиз на Linux.
  ✅ Решение: обновление делается повторным запуском install script, а закрепление версии — через OLLAMA_VERSION перед запуском официальной команды установки.

Безопасность и ограничения

• По умолчанию локальный API публикуется на http://localhost:11434/api. Это подтверждённая базовая точка входа для локальной работы.
• Универсального минимального железа для всех моделей в официальных локальных инструкциях нет. Требования зависят от выбранной модели.
• Официальные источники из source pack не подтверждают цену локального использования. Если вы используете облачные или авторизованные функции, проверяйте условия отдельно.
• Сетевой доступ, proxy и возможность скачивания моделей зависят от вашей среды. Официальный FAQ прямо упоминает сетевые и proxy caveats.
• Если вы выбираете Docker, GPU-путь зависит от хоста: NVIDIA требует Container Toolkit, AMD — образ rocm, а на macOS Docker Desktop GPU passthrough не подтверждён.

Что делать дальше

• Если вам нужен GUI поверх локальных моделей, посмотрите инструкцию Как использовать Jan.ai для локальных моделей.
• Если нужен более низкоуровневый путь запуска и контроля, сравните Ollama с llama.cpp для запуска моделей.
• Если вы выбираете инфраструктуру под локальный inference, полезно свериться с подборкой 6 лучших inference-серверов для локальных моделей.
• Если хотите использовать локальные модели в агентных сценариях, переходите к инструкции Как настроить LangGraph для сложных workflows.

Источники

• GitHub – ollama/ollama: Get up and running with Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models. · GitHub

• Quickstart – Ollama
• macOS – Ollama
• Windows – Ollama
• Linux – Ollama
• Docker – Ollama
• CLI Reference – Ollama
• Introduction – Ollama
• Generate a response – Ollama
• FAQ – Ollama
• Releases · ollama/ollama · GitHub

Вопросы и ответы

Можно ли использовать Ollama на Mac с x86?

Да, но по официальной странице macOS x86 Mac работает только на CPU. Apple M-series поддерживает и CPU, и GPU.

Нужны ли права администратора на Windows?

По официальной странице Windows установщик OllamaSetup.exe не требует прав Administrator.

Как понять, что модель действительно пошла на GPU, а не на CPU?

Используйте ollama ps. Официальный FAQ рекомендует эту команду именно для проверки загруженных моделей и их размещения на CPU или GPU.

Можно ли хранить модели на другом диске?

Да. Официальный FAQ и Windows-раздел подтверждают использование переменной OLLAMA_MODELS для смены каталога моделей.

Есть ли у Ollama локальный HTTP API?

Да. Официальный API introduction указывает локальную базу http://localhost:11434/api, а endpoint /api/generate документирован как стабильный локальный путь для генерации ответа.