> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-ru/platformy-i-agenty-ii/lobechat.md). # ИИ-ассистент LobeChat Разверните LobeChat на Clore.ai — потрясающий, многофункциональный AI-чат-интерфейс с поддержкой нескольких провайдеров, базой знаний и плагинами, работающий на доступных облачных серверах на GPU. ## Обзор [LobeChat](https://github.com/lobehub/lobe-chat) Это современный AI-фреймворк для чата с открытым исходным кодом, имеющий более 55 тыс. звёзд на GitHub, известный своим отточенным интерфейсом и широким набором функций. Он поддерживает практически всех основных провайдеров LLM — OpenAI, Anthropic Claude, Google Gemini, Mistral и локальные модели через Ollama — всё из одного саморазмещаемого интерфейса. **Зачем запускать LobeChat на Clore.ai?** * **Графический процессор не требуется** — сам LobeChat — это лёгкое веб-приложение. Экземпляров Clore.ai только на CPU или с минимальным GPU вполне достаточно для интерфейса. * **Используйте вместе с локальными LLM** — запустите Ollama или vLLM на том же сервере Clore.ai и укажите его в LobeChat для полностью локального, приватного инференса. * **Доступный хостинг** — базовый экземпляр Clore.ai стоит лишь малую часть стоимости традиционных VPS-провайдеров, и вы можете выключать его, когда он не используется. * **Полный контроль над данными** — в режиме базы данных все разговоры, файлы и эмбеддинги хранятся в вашем собственном экземпляре PostgreSQL на сервере. LobeChat работает в двух различных режимах: | Режим | Описание | Лучше всего для | | --------------- | ---------------------------------------------------- | ------------------------------------------ | | **Автономный** | Один Docker-контейнер, настройки хранятся в браузере | Быстрое тестирование, личное использование | | **База данных** | Полный стек (PostgreSQL + MinIO + Auth + приложение) | Команды, постоянная история, база знаний | *** ## Требования ### Технические характеристики сервера | Компонент | Минимум | Рекомендуется | Примечания | | ------------- | ------------ | ---------------------------------------- | ------------------------------------------------- | | **GPU** | Не требуется | RTX 3090 (если запускаете локальные LLM) | Требуется только для backend Ollama/vLLM | | **VRAM** | — | 24 ГБ (RTX 3090) | Для локального инференса моделей | | **CPU** | 2 vCPU | 4+ vCPU | Сам LobeChat очень лёгкий | | **ОЗУ** | 2 ГБ | 8 ГБ | 4+ ГБ, если используется режим базы данных | | **Хранилище** | 10 ГБ | 50+ ГБ | Больше, если хранить загруженные файлы или модели | ### Справка по ценам Clore.ai | Тип сервера | Примерная стоимость | Сценарий использования | | --------------------- | ------------------------------------------- | ------------------------------------------- | | Инстанс только на CPU | \~0,05–0,10 $/час | Только автономный LobeChat | | RTX 3090 (24 ГБ VRAM) | $0.07–0.21/ч | LobeChat + локальные LLM Ollama | | RTX 4090 (24 ГБ VRAM) | $0.14–0.42/ч | LobeChat + более быстрый локальный инференс | | A100 80 ГБ | [голое железо](https://clore.ai/bare-metal) | LobeChat + большие модели (70B+) | > 💡 **Совет:** Если вы используете только API (подключаясь к OpenAI, Anthropic и т. д.), подойдёт любой небольшой экземпляр. Сервер с GPU имеет смысл только если вы также хотите запускать локальные LLM. См. [Руководство по сравнению GPU](/guides/guides_v2-ru/nachalo-raboty/gpu-comparison.md) подробности. ### Предварительные требования * Учетная запись Clore.ai с развернутым сервером * Доступ по SSH к вашему серверу * Docker и Docker Compose (предустановлены на серверах Clore.ai) * Драйверы NVIDIA (предустановлены; актуально только при использовании локального backend LLM) * Как минимум один API-ключ (OpenAI, Anthropic и т. д.) **или** локальный экземпляр Ollama *** ## Быстрый старт ### Вариант A: автономный режим (рекомендуется для начала) В автономном режиме LobeChat запускается как один контейнер. Настройки и история разговоров хранятся в локальном хранилище браузера — база данных не требуется. **Шаг 1: Подключитесь к вашему серверу Clore.ai** ```bash ssh root@ -p ``` **Шаг 2: Скачайте и запустите LobeChat** ```bash docker run -d \ --name lobechat \\ --restart unless-stopped \ -p 3210:3210 \\ -e OPENAI_API_KEY=sk-your-openai-key-here \\ -e OPENAI_PROXY_URL=https://api.openai.com/v1 \\ lobehub/lobe-chat ``` **Шаг 3: Проверьте, что он запущен** ```bash docker ps docker logs lobechat --tail 20 ``` **Шаг 4: Откройте интерфейс** Откройте браузер и перейдите по адресу: ``` http://:3210 ``` > ⚠️ **Примечание по безопасности:** Серверы Clore.ai доступны из интернета. Рассмотрите возможность установить `ACCESS_CODE` для защиты экземпляра паролем (см. раздел конфигурации ниже). *** ### Вариант B: автономный режим с несколькими провайдерами Передайте несколько API-ключей, чтобы одновременно поддерживать разных провайдеров: ```bash docker run -d \ --name lobechat \\ --restart unless-stopped \ -p 3210:3210 \\ -e OPENAI_API_KEY=sk-your-openai-key \\ -e ANTHROPIC_API_KEY=sk-ant-your-anthropic-key \\ -e GOOGLE_API_KEY=your-google-gemini-key \\ -e MISTRAL_API_KEY=your-mistral-key \\ -e ACCESS_CODE=your-secret-password \\ lobehub/lobe-chat ``` *** ### Вариант C: с локальным backend Ollama Если у вас Ollama запущена на том же сервере Clore.ai (см. [Руководство по Ollama](/guides/guides_v2-ru/yazykovye-modeli/ollama.md)): ```bash # Сначала запустите Ollama docker run -d \ --name ollama \\ --restart unless-stopped \ --gpus all \ -p 11434:11434 \\ -v ollama:/root/.ollama \\ ollama/ollama # Скачайте модель docker exec ollama ollama pull llama3.2 # Затем запустите LobeChat, указывая на Ollama docker run -d \ --name lobechat \\ --restart unless-stopped \ -p 3210:3210 \\ -e OLLAMA_PROXY_URL=http://host-gateway:11434 \\ --add-host=host-gateway:host-gateway \\ lobehub/lobe-chat ``` > В Linux замените `host-gateway` на фактический IP Docker bridge, обычно `172.17.0.1`: > > ```bash > -e OLLAMA_PROXY_URL=http://172.17.0.1:11434 > ``` *** ### Вариант D: режим базы данных (Docker Compose) Режим базы данных включает постоянную историю разговоров, поддержку нескольких пользователей, загрузку файлов в S3-совместимое хранилище и полную базу знаний. **Шаг 1: Создайте каталог проекта** ```bash mkdir -p ~/lobechat && cd ~/lobechat ``` **Шаг 2: Создайте `docker-compose.yml`** ```bash cat > docker-compose.yml << 'EOF' version: '3.8' services: postgresql: image: pgvector/pgvector:pg16 container_name: lobe-postgres restart: unless-stopped environment: POSTGRES_DB: lobechat POSTGRES_USER: lobechat POSTGRES_PASSWORD: changeme_strong_password volumes: - postgres_data:/var/lib/postgresql/data healthcheck: test: ["CMD-SHELL", "pg_isready -U lobechat -d lobechat"] interval: 10s timeout: 5s retries: 5 minio: image: minio/minio container_name: lobe-minio restart: unless-stopped environment: MINIO_ROOT_USER: minioadmin MINIO_ROOT_PASSWORD: changeme_minio_password command: server /data --console-address ":9001" volumes: - minio_data:/data ports: - "9000:9000" - "9001:9001" lobechat: image: lobehub/lobe-chat-database container_name: lobe-chat restart: unless-stopped depends_on: postgresql: condition: service_healthy ports: - "3210:3210" environment: # База данных DATABASE_URL: postgresql://lobechat:changeme_strong_password@postgresql:5432/lobechat # S3-хранилище (MinIO) S3_ENDPOINT: http://minio:9000 S3_BUCKET: lobechat S3_ACCESS_KEY_ID: minioadmin S3_SECRET_ACCESS_KEY: changeme_minio_password S3_PUBLIC_DOMAIN: http://:9000 # Аутентификация (NextAuth) NEXTAUTH_SECRET: ваш-случайный-секрет-из-32-символов NEXTAUTH_URL: http://:3210 # Провайдеры LLM OPENAI_API_KEY: sk-your-openai-key ANTHROPIC_API_KEY: sk-your-anthropic-key # Приложение APP_URL: http://:3210 volumes: postgres_data: minio_data: EOF ``` **Шаг 3: Запустите стек** ```bash docker compose up -d docker compose logs -f lobechat ``` **Шаг 4: Создайте бакет MinIO** ```bash # Установите клиент MinIO docker exec lobe-minio mc alias set local http://localhost:9000 minioadmin changeme_minio_password docker exec lobe-minio mc mb local/lobechat docker exec lobe-minio mc anonymous set download local/lobechat ``` *** ## Конфигурация ### Справочник по переменным окружения | Переменная | Описание | По умолчанию | | ---------------------- | ------------------------------------------------- | --------------------------- | | `OPENAI_API_KEY` | ключ API OpenAI | — | | `OPENAI_PROXY_URL` | Пользовательский endpoint, совместимый с OpenAI | `https://api.openai.com/v1` | | `ANTHROPIC_API_KEY` | API-ключ Anthropic Claude | — | | `GOOGLE_API_KEY` | API-ключ Google Gemini | — | | `MISTRAL_API_KEY` | API-ключ Mistral AI | — | | `OLLAMA_PROXY_URL` | URL к локальному экземпляру Ollama | — | | `ACCESS_CODE` | Пароль для защиты интерфейса | — | | `DEFAULT_AGENT_CONFIG` | JSON-конфиг для поведения ассистента по умолчанию | — | | `FEATURE_FLAGS` | Включение/отключение отдельных функций | — | ### Включение отдельных функций **Включить плагин веб-поиска:** ```bash -e BING_API_KEY=your-bing-search-key ``` **Включить преобразование текста в речь:** ```bash -e AZURE_TTS_API_KEY=your-azure-key \\ -e AZURE_TTS_REGION=eastus ``` **Установить собственный системный prompt для агента по умолчанию:** ```bash -e DEFAULT_AGENT_CONFIG='{"systemRole":"Вы — полезный ассистент."}' ``` ### Обновление LobeChat ```bash # Скачайте последнюю версию образа docker pull lobehub/lobe-chat # Остановите и удалите старый контейнер docker stop lobechat && docker rm lobechat # Запустите новый контейнер с теми же параметрами docker run -d \ --name lobechat \\ --restart unless-stopped \ -p 3210:3210 \\ -e OPENAI_API_KEY=sk-your-key \\ lobehub/lobe-chat ``` Для Docker Compose: ```bash docker compose pull docker compose up -d ``` *** ## Ускорение на GPU Сам LobeChat **не** не требует GPU. Однако в сочетании с backend с аппаратным ускорением на Clore.ai вы получаете локальный, приватный инференс LLM: ### Связка с vLLM (высокопроизводительный инференс) См. [Руководство по vLLM](/guides/guides_v2-ru/yazykovye-modeli/vllm.md) для полной настройки. Быстрая интеграция: ```bash # Запустите сервер vLLM (на том же хосте) docker run -d \ --name vllm \\ --gpus all \ --restart unless-stopped \ -p 8000:8000 \\ -v ~/.cache/huggingface:/root/.cache/huggingface \ vllm/vllm-openai:latest \\ --model meta-llama/Llama-3.1-8B-Instruct \", --served-model-name llama3.1-8b # Запустите LobeChat, указывая на vLLM (API, совместимый с OpenAI) docker run -d \ --name lobechat \\ --restart unless-stopped \ -p 3210:3210 \\ -e OPENAI_API_KEY=not-needed \\ -e OPENAI_PROXY_URL=http://172.17.0.1:8000/v1 \\ lobehub/lobe-chat ``` ### Использование ресурсов | Backend | Используется VRAM GPU | Примерная производительность | | --------------------- | --------------------- | ---------------------------- | | Ollama (Llama 3.2 3B) | \~2 ГБ | 50–80 токенов/с на 3090 | | Ollama (Llama 3.1 8B) | \~6 ГБ | 40–60 токенов/с на 3090 | | vLLM (Llama 3.1 8B) | \~16 ГБ | 80–150 токенов/с на 3090 | | vLLM (Llama 3.1 70B) | \~80 ГБ | 20–40 токенов/с на A100 80GB | *** ## Советы и лучшие практики ### Оптимизация затрат * **Останавливайте сервер, когда он не используется.** Clore.ai тарифицируется почасово — используйте панель управления, чтобы приостанавливать экземпляры, которыми вы не пользуетесь. * **Автономный режим для личного использования.** Если вам не нужна поддержка нескольких пользователей или постоянная серверная история, автономный режим избавляет от накладных расходов PostgreSQL и MinIO. * **Используйте API-провайдеров для больших моделей.** Маршрутизация запросов к Claude или GPT-4 через внешние API дешевле, чем аренда H100 для редких запросов. ### Безопасность ```bash # Всегда задавайте код доступа на публичных IP Clore.ai -e ACCESS_CODE=your-strong-password-here # Ограничьте определённый origin (необязательно) -e NEXT_PUBLIC_SERVICE_MODE=server ``` * Никогда не открывайте LobeChat без `ACCESS_CODE` на публичном IP. * Если планируете долгосрочную работу, рассмотрите использование обратного прокси Nginx с HTTPS. * Смените API-ключи, если подозреваете их утечку. ### Производительность ```bash # Увеличьте heap Node.js, если в режиме базы данных много пользователей -e NODE_OPTIONS="--max-old-space-size=4096" ``` * Для режима базы данных с 10+ одновременными пользователями убедитесь, что на хосте есть как минимум 8 ГБ ОЗУ. * MinIO работает лучше на хранилище с SSD (экземпляры Clore.ai NVMe). ### Сохранение между сессиями Clore.ai Поскольку серверы Clore.ai могут быть завершены: ```bash # Создайте Docker-том для экспорта автономных разговоров docker run -d \ --name lobechat \\ -p 3210:3210 \\ -v lobechat_data:/app/data \\ lobehub/lobe-chat ``` Регулярно экспортируйте разговоры через Settings → Data Export в интерфейсе. *** ## Устранение неполадок ### Контейнер не запускается ```bash # Проверьте логи docker logs lobechat --tail 50 # Проверьте, что порт не используется ss -tlnp | grep 3210 # Проверьте, что демон Docker запущен systemctl status docker ``` ### Не удаётся подключиться к Ollama из LobeChat ```bash # Проверьте соединение из контейнера LobeChat docker exec lobechat curl -s http://172.17.0.1:11434/api/tags # Если это не работает, проверьте, что Ollama слушает на всех интерфейсах docker exec ollama ollama serve --host 0.0.0.0 ``` ### Ошибки подключения к базе данных (режим базы данных) ```bash # Проверьте работоспособность PostgreSQL docker exec lobe-postgres pg_isready -U lobechat # Проверьте формат DATABASE_URL # postgresql://user:password@host:port/dbname # При необходимости выполните миграции вручную docker exec lobe-chat npx prisma migrate deploy ``` ### Изображения/файлы не загружаются (режим базы данных) ```bash # Проверьте доступность MinIO curl -s http://localhost:9000/minio/health/live # Проверьте, что бакет существует docker exec lobe-minio mc ls local/ # Проверьте, что S3_PUBLIC_DOMAIN указывает на правильный IP сервера ``` ### Ошибки нехватки памяти ```bash # Проверьте текущее использование памяти docker stats lobechat # Увеличьте лимит памяти контейнера docker run -d \ --name lobechat \\ --memory=2g \\ -p 3210:3210 \\ lobehub/lobe-chat ``` *** ## Дополнительное чтение * [Документация LobeChat](https://lobehub.com/docs) — официальная документация, разработка плагинов, руководства по развертыванию * [LobeChat GitHub](https://github.com/lobehub/lobe-chat) — исходный код, issues, обсуждения * [Запуск Ollama на Clore.ai](/guides/guides_v2-ru/yazykovye-modeli/ollama.md) — локальный backend LLM для LobeChat * [Запуск vLLM на Clore.ai](/guides/guides_v2-ru/yazykovye-modeli/vllm.md) — высокопроизводительный инференс, совместимый с OpenAI * [Руководство по сравнению GPU](/guides/guides_v2-ru/nachalo-raboty/gpu-comparison.md) — выбор подходящего GPU Clore.ai * [LobeChat Docker Hub](https://hub.docker.com/r/lobehub/lobe-chat) — теги и версии образов * [Переменные окружения LobeChat](https://lobehub.com/docs/self-hosting/environment-variables) — полный перечень переменных --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://docs.clore.ai/guides/guides_v2-ru/platformy-i-agenty-ii/lobechat.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.