☰
03.08.2026

Как развернуть Open WebUI и Ollama на сервере

Локальные языковые больше не игрушка для энтузиастов. За последний год они превратились в базовый рабочий инструмент для бизнеса и разработчиков. Причины простые: переписка остаётся на своей инфраструктуре, оплата привязана к серверу, а не к количеству токенов, а доступ к чат-боту не зависит от лимитов внешнего API. Ollama и Open WebUI — одна из самых удобных связок для такого запуска: первая отвечает за загрузку и работу моделей, вторая — за понятный интерфейс поверх них.

Разберём, как поднять эту пару на обычном сервере: какие ресурсы понадобятся, какие шаги пройти и каких ошибок лучше не повторять. Материал рассчитан на тех, кто уже настраивал серверы, но не обязательно работал с локальными моделями — базовые понятия разберём по пути.

Что такое Ollama и Open WebUI

Ollama — это среда выполнения для больших языковых моделей: она скачивает, запускает и обслуживает их через простой REST API. Работает как фоновая служба: принимает запрос, подгружает нужную модель в память и отдаёт ответ. Библиотека Ollama включает десятки открытых моделей — от компактных вариантов на 2–3 млрд параметров до крупных на 70 млрд и больше, если под них хватает памяти.

Open WebUI — веб-интерфейс для общения с моделями, внешне похожий на привычные чат-боты. Подключается к Ollama по сети, добавляет многопользовательский доступ, историю переписки, загрузку документов для поиска по ним и настройку системных промптов. Раньше проект назывался Ollama WebUI, затем расширил поддержку и на другие backend'ы с OpenAI-совместимым API. Проще говоря, Ollama — это движок, который запускает модели, а Open WebUI — витрина поверх него, через которую с ними работают люди.

Сервер в этой схеме — обычная VPS: она хранит модели на диске, выделяет под них оперативную память и процессор, а также раздаёт веб-интерфейс пользователям через браузер.

Как это работает?

Схема простая: Ollama работает как отдельный сервис на порту 11434, Open WebUI — на своём порту и общается с Ollama по внутренней сети, а пользователь заходит в браузер по обычному HTTPS-адресу. Для изоляции и удобного управления оба компонента обычно запускают в Docker-контейнерах, а трафик снаружи принимает reverse proxy — nginx или Caddy.

Шаг 1. Подготовка сервера

Перед установкой стоит определиться с моделью, которую планируется запускать: от этого зависит объём памяти. Компактные модели на 7–8 млрд параметров в квантованном виде требуют около 6–8 ГБ RAM, модели на 13 млрд — от 10 ГБ, а версии на 30+ млрд параметров без видеокарты потянет не каждый сервер. Диск нужен с запасом: сами модели весят от 2 до 40+ ГБ, и при экспериментах с несколькими вариантами место расходуется быстро.

Для большинства задач — внутреннего чат-бота, тестирования моделей, помощника для команды — подходит сервер с 4–8 ядрами, 16 ГБ RAM и SSD-диском от 60 ГБ. Здесь можно ориентироваться на конфигурации VPS-серверов Serverspace: тарифы позволяют гибко нарастить память и диск, если модель окажется требовательнее, чем ожидалось.

Шаг 2. Установка Docker и Docker Compose

Дальше — стандартная подготовка окружения. На чистом Ubuntu-сервере это делается парой команд:

sudo apt update && sudo apt upgrade -y
curl -fsSL https://get.docker.com | sh
sudo usermod -aG docker $USER
sudo apt install docker-compose-plugin -y

После добавления пользователя в группу docker стоит перезайти по SSH, чтобы изменения применились без sudo.

Шаг 3. Запуск Ollama и Open WebUI

Оба сервиса удобно описать одним файлом docker-compose.yml:

version: "3.8"
services:
  ollama:
    image: ollama/ollama
    container_name: ollama
    restart: unless-stopped
    volumes:
      - ollama_data:/root/.ollama
    ports:
      - "11434:11434"

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: unless-stopped
    depends_on:
      - ollama
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
    volumes:
      - webui_data:/app/backend/data
    ports:
      - "3000:8080"

volumes:
  ollama_data:
  webui_data:

Файл описывает два сервиса. Ollama хранит модели в отдельном volume, чтобы они не пропадали при пересборке контейнера, а Open WebUI получает адрес Ollama через переменную окружения и слушает порт 3000 снаружи. Запускается всё одной командой:

docker compose up -d

Через полминуты можно проверить, что оба контейнера поднялись:

docker ps

Шаг 4. Загрузка модели

Модели скачиваются командой внутри контейнера Ollama. Например, для Llama 3 на 8 млрд параметров:

docker exec -it ollama ollama pull llama3

Процесс займёт от нескольких минут до получаса — зависит от размера модели и скорости сети. Список уже загруженных моделей показывает команда:

docker exec -it ollama ollama list

Какую модель выбрать

Что немаловажно, выбор модели напрямую влияет на скорость ответов и требования к серверу. Ниже — несколько популярных вариантов из библиотеки Ollama с ориентировочными требованиями по памяти.

Модель Параметры Память (ориентир) Хорошо подходит для
Llama 3 8B от 8 ГБ RAM общих диалогов и черновой генерации текста
Mistral 7B от 6 ГБ RAM быстрых ответов при ограниченных ресурсах
Gemma 2 9B от 8 ГБ RAM коротких и аккуратных ответов
Qwen 2.5 7B–14B от 8 до 16 ГБ RAM работы с кодом и многоязычных задач
Phi-3 3.8B от 4 ГБ RAM слабых серверов и тестовых стендов

Шаг 5. Настройка домена и HTTPS

Открывать интерфейс наружу по обычному HTTP — плохая идея: пароли и переписка пойдут в открытом виде. Перед сервисом стоит поставить nginx:

server {
    listen 80;
    server_name chat.example.com;

    location / {
        proxy_pass http://127.0.0.1:3000;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
    }
}

Дальше сертификат выпускается одной командой certbot:

sudo certbot --nginx -d chat.example.com

После этого Open WebUI становится доступен по адресу с https, а сертификат certbot будет обновлять автоматически.

Шаг 6. Firewall и первый запуск

Порт Ollama не должен смотреть в интернет напрямую — доступ к нему нужен только Open WebUI внутри сети контейнеров. Снаружи стоит открыть только 22, 80 и 443:

sudo ufw allow 22
sudo ufw allow 80
sudo ufw allow 443
sudo ufw enable

После этого можно зайти по адресу https://chat.example.com, создать первого пользователя — он автоматически получит права администратора — и выбрать модель из списка загруженных.

Плюсы и минусы

Стоит ли разворачивать модель на собственном сервере, если под рукой уже есть облачный API? Если важны контроль над данными и предсказуемые расходы — да, и вот почему.

Обратная сторона тоже есть, и её лучше учитывать заранее.

Ограничения и риски

На процессоре без видеокарты модели старше 13 млрд параметров отвечают заметно медленнее — счёт может идти на десятки секунд на длинный ответ. Если скорость критична, разумно смотреть в сторону конфигураций с GPU или ограничиться компактными моделями.

Открытый порт Ollama без аутентификации — частый источник проблем: если API оказывается доступен снаружи, кто угодно может нагружать сервер и расходовать его ресурсы. Reverse proxy с ограничением доступа на уровне firewall закрывает эту брешь.

Стоит учитывать и лицензии: часть моделей разрешает только исследовательское использование, часть ограничивает коммерческое применение сверх определённого масштаба аудитории. Перед продакшен-использованием карточку модели в библиотеке Ollama лучше проверить отдельно.

Наконец, самостоятельный хостинг означает самостоятельную поддержку: при сбое сервиса восстанавливать работу придётся своей команде — в отличие от облачных API с гарантированным SLA.

Для чего можно использовать

Внутренний ассистент для команды

Компания разворачивает Open WebUI на своём сервере и подключает сотрудников через общий домен. Каждый получает отдельный аккаунт, история переписки не смешивается, а чувствительные вопросы — код, финансовые данные, черновики договоров — не покидают инфраструктуру.

Песочница для выбора модели

Перед тем как встраивать LLM в продукт, разработчики поднимают несколько моделей на одном сервере и сравнивают качество ответов на реальных примерах. Ollama позволяет держать параллельно 3–4 модели и переключаться между ними без переустановки.

База знаний с поиском по документам

Через Open WebUI можно загрузить внутренние регламенты, техническую документацию или базу тикетов поддержки — интерфейс проиндексирует файлы и будет искать в них ответы при каждом запросе. Такой вариант закрывает задачу первой линии поддержки без передачи документов внешнему сервису.

Обучение и эксперименты

Студенты и начинающие разработчики используют связку для практики: настройка промптов, сравнение архитектур моделей, изучение работы API — весь стек можно поднять на бюджетном сервере за один вечер и разбирать детали без ограничений бесплатных лимитов внешних сервисов.

Резервный канал на случай сбоев внешнего API

Если бизнес-процесс завязан на облачный API и время от времени сталкивается с лимитами или перебоями, локальный сервер с Ollama и Open WebUI работает как запасной канал: часть простых запросов можно перенаправить туда, не останавливая процесс целиком.

Частые ошибки

Симптом Причина Решение
Контейнер Ollama падает при загрузке крупной модели Не хватает оперативной памяти под выбранный размер модели Взять модель меньшего размера или увеличить объём RAM на сервере
После перезапуска сервера все модели пропали Ollama хранил данные внутри контейнера без volume Подключить постоянный volume в docker-compose и пересоздать контейнер
Ответы приходят с задержкой в десятки секунд Инференс идёт на CPU без ускорения Использовать модель меньшего размера или сервер с GPU
Open WebUI недоступен снаружи по HTTPS Не настроен reverse proxy и сертификат Поднять nginx с proxy_pass на порт контейнера и выпустить сертификат через certbot
Порт 11434 отвечает всем желающим из интернета Порт Ollama открыт наружу без ограничений Закрыть порт на firewall, оставить доступ только для внутренней сети контейнеров
Диск неожиданно заканчивается Скачано много моделей "на попробовать" Удалять неиспользуемые модели командой ollama rm и следить за объёмом диска

Вывод

Связка Ollama и Open WebUI закрывает задачу быстрого запуска локального чат-бота без обращения к сторонним API. Из плюсов — контроль над данными и предсказуемые расходы; из минусов — необходимость следить за ресурсами сервера и обновлениями компонентов самостоятельно.

Для старта хватает Docker, одного docker-compose.yml и сервера с запасом памяти под выбранную модель — дальше конфигурацию можно расширять: добавлять модели, настраивать поиск по своим документам, подключать нескольких пользователей. При росте нагрузки ресурсы сервера легко нарастить, не переезжая на новую инфраструктуру — например, через панель управления VPS Serverspace, где память и диск меняются без переустановки системы. Больше практических разборов серверных задач — в блоге Serverspace.

Часто задаваемые вопросы (FAQ)

Нужна ли видеокарта для запуска Ollama?

Нет. Ollama может запускать компактные модели на обычном процессоре, но скорость генерации будет ниже, чем на GPU. Для моделей на 3–8 млрд параметров CPU обычно достаточно, а для крупных моделей и высокой нагрузки лучше использовать сервер с видеокартой.

Какой сервер нужен для Ollama и Open WebUI?

Для большинства тестовых и внутренних задач подойдёт VPS с 4–8 ядрами CPU, 16 ГБ оперативной памяти и SSD-диском от 60 ГБ. Точные требования зависят от размера модели, количества пользователей и того, запускается ли инференс на CPU или GPU.

Сколько места на диске занимают модели Ollama?

Компактные модели обычно занимают несколько гигабайт, а крупные могут весить 20–40 ГБ и больше. Если планируется тестировать несколько моделей одновременно, рекомендуется заранее выделить не менее 50–60 ГБ свободного дискового пространства.

Можно ли подключить Open WebUI к внешнему API?

Да. Open WebUI поддерживает OpenAI-совместимые API, поэтому в одном интерфейсе можно использовать как локальные модели через Ollama, так и внешние облачные сервисы. Пользователь сможет переключаться между доступными моделями в зависимости от задачи.

Безопасно ли открывать Open WebUI в интернет?

Да, если настроены HTTPS, сложные пароли, регулярные обновления и ограничения доступа. Порт Ollama 11434 не следует публиковать напрямую в интернет — к нему должен обращаться только Open WebUI через внутреннюю сеть контейнеров.

Сколько пользователей может обслуживать один VPS?

Сервер с 16 ГБ RAM обычно подходит для команды из 5–10 человек при умеренной нагрузке и использовании компактной модели. При большом количестве одновременных запросов потребуется увеличить CPU и RAM, выбрать более лёгкую модель или перенести инференс на GPU-сервер.