ИИ-ассистент LobeChat

Разверните LobeChat на Clore.ai — потрясающий, многофункциональный AI-чат-интерфейс с поддержкой нескольких провайдеров, базой знаний и плагинами, работающий на доступных облачных серверах на GPU.

Обзор

LobeChat Это современный AI-фреймворк для чата с открытым исходным кодом, имеющий более 55 тыс. звёзд на GitHub, известный своим отточенным интерфейсом и широким набором функций. Он поддерживает практически всех основных провайдеров LLM — OpenAI, Anthropic Claude, Google Gemini, Mistral и локальные модели через Ollama — всё из одного саморазмещаемого интерфейса.

Зачем запускать LobeChat на Clore.ai?

• Графический процессор не требуется — сам LobeChat — это лёгкое веб-приложение. Экземпляров Clore.ai только на CPU или с минимальным GPU вполне достаточно для интерфейса.

• Используйте вместе с локальными LLM — запустите Ollama или vLLM на том же сервере Clore.ai и укажите его в LobeChat для полностью локального, приватного инференса.

• Доступный хостинг — базовый экземпляр Clore.ai стоит лишь малую часть стоимости традиционных VPS-провайдеров, и вы можете выключать его, когда он не используется.

• Полный контроль над данными — в режиме базы данных все разговоры, файлы и эмбеддинги хранятся в вашем собственном экземпляре PostgreSQL на сервере.

LobeChat работает в двух различных режимах:

Режим	Описание	Лучше всего для
Автономный	Один Docker-контейнер, настройки хранятся в браузере	Быстрое тестирование, личное использование
База данных	Полный стек (PostgreSQL + MinIO + Auth + приложение)	Команды, постоянная история, база знаний

---

Требования

Технические характеристики сервера

Компонент	Минимум	Рекомендуется	Примечания
GPU	Не требуется	RTX 3090 (если запускаете локальные LLM)	Требуется только для backend Ollama/vLLM
VRAM	—	24 ГБ (RTX 3090)	Для локального инференса моделей
CPU	2 vCPU	4+ vCPU	Сам LobeChat очень лёгкий
ОЗУ	2 ГБ	8 ГБ	4+ ГБ, если используется режим базы данных
Хранилище	10 ГБ	50+ ГБ	Больше, если хранить загруженные файлы или модели

Справка по ценам Clore.ai

Тип сервера	Примерная стоимость	Сценарий использования
Инстанс только на CPU	~0,05–0,10 $/час	Только автономный LobeChat
RTX 3090 (24 ГБ VRAM)	$0.07–0.21/ч	LobeChat + локальные LLM Ollama
RTX 4090 (24 ГБ VRAM)	$0.14–0.42/ч	LobeChat + более быстрый локальный инференс
A100 80 ГБ	голое железо	LobeChat + большие модели (70B+)

💡 Совет: Если вы используете только API (подключаясь к OpenAI, Anthropic и т. д.), подойдёт любой небольшой экземпляр. Сервер с GPU имеет смысл только если вы также хотите запускать локальные LLM. См. Руководство по сравнению GPU подробности.

Предварительные требования

• Учетная запись Clore.ai с развернутым сервером

• Доступ по SSH к вашему серверу

• Docker и Docker Compose (предустановлены на серверах Clore.ai)

• Драйверы NVIDIA (предустановлены; актуально только при использовании локального backend LLM)

• Как минимум один API-ключ (OpenAI, Anthropic и т. д.) или локальный экземпляр Ollama

---

Быстрый старт

Вариант A: автономный режим (рекомендуется для начала)

В автономном режиме LobeChat запускается как один контейнер. Настройки и история разговоров хранятся в локальном хранилище браузера — база данных не требуется.

Шаг 1: Подключитесь к вашему серверу Clore.ai

ssh root@<your-clore-server-ip> -p <ssh-port>

Шаг 2: Скачайте и запустите LobeChat

docker run -d \
  --name lobechat \\
  --restart unless-stopped \
  -p 3210:3210 \\
  -e OPENAI_API_KEY=sk-your-openai-key-here \\
  -e OPENAI_PROXY_URL=https://api.openai.com/v1 \\
  lobehub/lobe-chat

Шаг 3: Проверьте, что он запущен

docker ps
docker logs lobechat --tail 20

Шаг 4: Откройте интерфейс

Откройте браузер и перейдите по адресу:

http://<your-clore-server-ip>:3210

⚠️ Примечание по безопасности: Серверы Clore.ai доступны из интернета. Рассмотрите возможность установить ACCESS_CODE для защиты экземпляра паролем (см. раздел конфигурации ниже).

---

Вариант B: автономный режим с несколькими провайдерами

Передайте несколько API-ключей, чтобы одновременно поддерживать разных провайдеров:

docker run -d \
  --name lobechat \\
  --restart unless-stopped \
  -p 3210:3210 \\
  -e OPENAI_API_KEY=sk-your-openai-key \\
  -e ANTHROPIC_API_KEY=sk-ant-your-anthropic-key \\
  -e GOOGLE_API_KEY=your-google-gemini-key \\
  -e MISTRAL_API_KEY=your-mistral-key \\
  -e ACCESS_CODE=your-secret-password \\
  lobehub/lobe-chat

---

Вариант C: с локальным backend Ollama

Если у вас Ollama запущена на том же сервере Clore.ai (см. Руководство по Ollama):

# Сначала запустите Ollama
docker run -d \
  --name ollama \\
  --restart unless-stopped \
  --gpus all \
  -p 11434:11434 \\
  -v ollama:/root/.ollama \\
  ollama/ollama

# Скачайте модель
docker exec ollama ollama pull llama3.2

# Затем запустите LobeChat, указывая на Ollama
docker run -d \
  --name lobechat \\
  --restart unless-stopped \
  -p 3210:3210 \\
  -e OLLAMA_PROXY_URL=http://host-gateway:11434 \\
  --add-host=host-gateway:host-gateway \\
  lobehub/lobe-chat

В Linux замените host-gateway на фактический IP Docker bridge, обычно 172.17.0.1:

-e OLLAMA_PROXY_URL=http://172.17.0.1:11434

---

Вариант D: режим базы данных (Docker Compose)

Режим базы данных включает постоянную историю разговоров, поддержку нескольких пользователей, загрузку файлов в S3-совместимое хранилище и полную базу знаний.

Шаг 1: Создайте каталог проекта

mkdir -p ~/lobechat && cd ~/lobechat

Шаг 2: Создайте docker-compose.yml

cat > docker-compose.yml << 'EOF'
version: '3.8'

services:
  postgresql:
    image: pgvector/pgvector:pg16
    container_name: lobe-postgres
    restart: unless-stopped
    environment:
      POSTGRES_DB: lobechat
      POSTGRES_USER: lobechat
      POSTGRES_PASSWORD: changeme_strong_password
    volumes:
      - postgres_data:/var/lib/postgresql/data
    healthcheck:
      test: ["CMD-SHELL", "pg_isready -U lobechat -d lobechat"]
      interval: 10s
      timeout: 5s
      retries: 5

  minio:
    image: minio/minio
    container_name: lobe-minio
    restart: unless-stopped
    environment:
      MINIO_ROOT_USER: minioadmin
      MINIO_ROOT_PASSWORD: changeme_minio_password
    command: server /data --console-address ":9001"
    volumes:
      - minio_data:/data
    ports:
      - "9000:9000"
      - "9001:9001"

  lobechat:
    image: lobehub/lobe-chat-database
    container_name: lobe-chat
    restart: unless-stopped
    depends_on:
      postgresql:
        condition: service_healthy
    ports:
      - "3210:3210"
    environment:
      # База данных
      DATABASE_URL: postgresql://lobechat:changeme_strong_password@postgresql:5432/lobechat
      # S3-хранилище (MinIO)
      S3_ENDPOINT: http://minio:9000
      S3_BUCKET: lobechat
      S3_ACCESS_KEY_ID: minioadmin
      S3_SECRET_ACCESS_KEY: changeme_minio_password
      S3_PUBLIC_DOMAIN: http://<your-server-ip>:9000
      # Аутентификация (NextAuth)
      NEXTAUTH_SECRET: ваш-случайный-секрет-из-32-символов
      NEXTAUTH_URL: http://<your-server-ip>:3210
      # Провайдеры LLM
      OPENAI_API_KEY: sk-your-openai-key
      ANTHROPIC_API_KEY: sk-your-anthropic-key
      # Приложение
      APP_URL: http://<your-server-ip>:3210

volumes:
  postgres_data:
  minio_data:
EOF

Шаг 3: Запустите стек

docker compose up -d
docker compose logs -f lobechat

Шаг 4: Создайте бакет MinIO

# Установите клиент MinIO
docker exec lobe-minio mc alias set local http://localhost:9000 minioadmin changeme_minio_password
docker exec lobe-minio mc mb local/lobechat
docker exec lobe-minio mc anonymous set download local/lobechat

---

Конфигурация

Справочник по переменным окружения

Переменная	Описание	По умолчанию
OPENAI_API_KEY	ключ API OpenAI	—
OPENAI_PROXY_URL	Пользовательский endpoint, совместимый с OpenAI	https://api.openai.com/v1
ANTHROPIC_API_KEY	API-ключ Anthropic Claude	—
GOOGLE_API_KEY	API-ключ Google Gemini	—
MISTRAL_API_KEY	API-ключ Mistral AI	—
OLLAMA_PROXY_URL	URL к локальному экземпляру Ollama	—
ACCESS_CODE	Пароль для защиты интерфейса	—
DEFAULT_AGENT_CONFIG	JSON-конфиг для поведения ассистента по умолчанию	—
FEATURE_FLAGS	Включение/отключение отдельных функций	—

Включение отдельных функций

Включить плагин веб-поиска:

-e BING_API_KEY=your-bing-search-key

Включить преобразование текста в речь:

-e AZURE_TTS_API_KEY=your-azure-key \\
-e AZURE_TTS_REGION=eastus

Установить собственный системный prompt для агента по умолчанию:

-e DEFAULT_AGENT_CONFIG='{"systemRole":"Вы — полезный ассистент."}'

Обновление LobeChat

# Скачайте последнюю версию образа
docker pull lobehub/lobe-chat

# Остановите и удалите старый контейнер
docker stop lobechat && docker rm lobechat

# Запустите новый контейнер с теми же параметрами
docker run -d \
  --name lobechat \\
  --restart unless-stopped \
  -p 3210:3210 \\
  -e OPENAI_API_KEY=sk-your-key \\
  lobehub/lobe-chat

Для Docker Compose:

docker compose pull
docker compose up -d

---

Ускорение на GPU

Сам LobeChat не не требует GPU. Однако в сочетании с backend с аппаратным ускорением на Clore.ai вы получаете локальный, приватный инференс LLM:

Связка с vLLM (высокопроизводительный инференс)

См. Руководство по vLLM для полной настройки. Быстрая интеграция:

# Запустите сервер vLLM (на том же хосте)
docker run -d \
  --name vllm \\
  --gpus all \
  --restart unless-stopped \
  -p 8000:8000 \\
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  vllm/vllm-openai:latest \\
  --model meta-llama/Llama-3.1-8B-Instruct \",
  --served-model-name llama3.1-8b

# Запустите LobeChat, указывая на vLLM (API, совместимый с OpenAI)
docker run -d \
  --name lobechat \\
  --restart unless-stopped \
  -p 3210:3210 \\
  -e OPENAI_API_KEY=not-needed \\
  -e OPENAI_PROXY_URL=http://172.17.0.1:8000/v1 \\
  lobehub/lobe-chat

Использование ресурсов

Backend	Используется VRAM GPU	Примерная производительность
Ollama (Llama 3.2 3B)	~2 ГБ	50–80 токенов/с на 3090
Ollama (Llama 3.1 8B)	~6 ГБ	40–60 токенов/с на 3090
vLLM (Llama 3.1 8B)	~16 ГБ	80–150 токенов/с на 3090
vLLM (Llama 3.1 70B)	~80 ГБ	20–40 токенов/с на A100 80GB

---

Советы и лучшие практики

Оптимизация затрат

• Останавливайте сервер, когда он не используется. Clore.ai тарифицируется почасово — используйте панель управления, чтобы приостанавливать экземпляры, которыми вы не пользуетесь.

• Автономный режим для личного использования. Если вам не нужна поддержка нескольких пользователей или постоянная серверная история, автономный режим избавляет от накладных расходов PostgreSQL и MinIO.

• Используйте API-провайдеров для больших моделей. Маршрутизация запросов к Claude или GPT-4 через внешние API дешевле, чем аренда H100 для редких запросов.

Безопасность

# Всегда задавайте код доступа на публичных IP Clore.ai
-e ACCESS_CODE=your-strong-password-here

# Ограничьте определённый origin (необязательно)
-e NEXT_PUBLIC_SERVICE_MODE=server

• Никогда не открывайте LobeChat без ACCESS_CODE на публичном IP.

• Если планируете долгосрочную работу, рассмотрите использование обратного прокси Nginx с HTTPS.

• Смените API-ключи, если подозреваете их утечку.

Производительность

# Увеличьте heap Node.js, если в режиме базы данных много пользователей
-e NODE_OPTIONS="--max-old-space-size=4096"

• Для режима базы данных с 10+ одновременными пользователями убедитесь, что на хосте есть как минимум 8 ГБ ОЗУ.

• MinIO работает лучше на хранилище с SSD (экземпляры Clore.ai NVMe).

Сохранение между сессиями Clore.ai

Поскольку серверы Clore.ai могут быть завершены:

# Создайте Docker-том для экспорта автономных разговоров
docker run -d \
  --name lobechat \\
  -p 3210:3210 \\
  -v lobechat_data:/app/data \\
  lobehub/lobe-chat

Регулярно экспортируйте разговоры через Settings → Data Export в интерфейсе.

---

Устранение неполадок

Контейнер не запускается

# Проверьте логи
docker logs lobechat --tail 50

# Проверьте, что порт не используется
ss -tlnp | grep 3210

# Проверьте, что демон Docker запущен
systemctl status docker

Не удаётся подключиться к Ollama из LobeChat

# Проверьте соединение из контейнера LobeChat
docker exec lobechat curl -s http://172.17.0.1:11434/api/tags

# Если это не работает, проверьте, что Ollama слушает на всех интерфейсах
docker exec ollama ollama serve --host 0.0.0.0

Ошибки подключения к базе данных (режим базы данных)

# Проверьте работоспособность PostgreSQL
docker exec lobe-postgres pg_isready -U lobechat

# Проверьте формат DATABASE_URL
# postgresql://user:password@host:port/dbname

# При необходимости выполните миграции вручную
docker exec lobe-chat npx prisma migrate deploy

Изображения/файлы не загружаются (режим базы данных)

# Проверьте доступность MinIO
curl -s http://localhost:9000/minio/health/live

# Проверьте, что бакет существует
docker exec lobe-minio mc ls local/

# Проверьте, что S3_PUBLIC_DOMAIN указывает на правильный IP сервера

Ошибки нехватки памяти

# Проверьте текущее использование памяти
docker stats lobechat

# Увеличьте лимит памяти контейнера
docker run -d \
  --name lobechat \\
  --memory=2g \\
  -p 3210:3210 \\
  lobehub/lobe-chat

---

Дополнительное чтение

• Документация LobeChat — официальная документация, разработка плагинов, руководства по развертыванию

• LobeChat GitHub — исходный код, issues, обсуждения

• Запуск Ollama на Clore.ai — локальный backend LLM для LobeChat

• Запуск vLLM на Clore.ai — высокопроизводительный инференс, совместимый с OpenAI

• Руководство по сравнению GPU — выбор подходящего GPU Clore.ai

• LobeChat Docker Hub — теги и версии образов

• Переменные окружения LobeChat — полный перечень переменных