> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-hi/ai/lobechat.md). # LobeChat AI असिस्टेंट Clore.ai पर LobeChat डिप्लॉय करें — मल्टी-प्रोवाइडर सपोर्ट, नॉलेज बेस, और प्लगइन्स के साथ एक शानदार, फ़ीचर-समृद्ध AI चैट इंटरफ़ेस, जो किफ़ायती GPU-समर्थित क्लाउड सर्वरों पर चलता है। ## अवलोकन [LobeChat](https://github.com/lobehub/lobe-chat) एक आधुनिक, ओपन-सोर्स AI चैट फ्रेमवर्क है, जिसके GitHub पर 55K+ स्टार्स हैं, और यह अपने परिष्कृत UI तथा विस्तृत फीचर सेट के लिए जाना जाता है। यह लगभग हर प्रमुख LLM प्रदाता — OpenAI, Anthropic Claude, Google Gemini, Mistral, और Ollama के माध्यम से स्थानीय मॉडल — सभी को एक ही self-hosted इंटरफ़ेस से सपोर्ट करता है। **Clore.ai पर LobeChat क्यों चलाएँ?** * **GPU की आवश्यकता नहीं** — LobeChat स्वयं एक हल्का वेब ऐप है। इंटरफ़ेस के लिए Clore.ai के केवल CPU या न्यूनतम-GPU इंस्टेंस पूरी तरह पर्याप्त हैं। * **स्थानीय LLMs के साथ जोड़ें** — उसी Clore.ai सर्वर पर Ollama या vLLM शुरू करें और पूर्णतः स्थानीय, निजी inference के लिए LobeChat को उससे जोड़ें। * **किफायती होस्टिंग** — एक बेसिक Clore.ai इंस्टेंस पारंपरिक VPS प्रदाताओं की लागत का एक छोटा हिस्सा होता है, और उपयोग न होने पर आप इसे बंद कर सकते हैं। * **डेटा पर पूर्ण स्वामित्व** — डेटाबेस मोड सभी conversations, files, और embeddings को सर्वर पर आपके अपने PostgreSQL इंस्टेंस में संग्रहीत करता है। LobeChat दो अलग-अलग मोड में काम करता है: | मोड | विवरण | किसके लिए सर्वोत्तम | | -------------- | ------------------------------------------------- | -------------------------------- | | **Standalone** | एकल Docker कंटेनर, सेटिंग्स ब्राउज़र में संग्रहीत | त्वरित परीक्षण, व्यक्तिगत उपयोग | | **Database** | पूर्ण स्टैक (PostgreSQL + MinIO + Auth + App) | टीम्स, स्थायी इतिहास, ज्ञान आधार | *** ## आवश्यकताएँ ### सर्वर विनिर्देश | घटक | न्यूनतम | अनुशंसित | नोट्स | | ----------- | ----------- | --------------------------------------- | ---------------------------------------------------------- | | **GPU** | आवश्यक नहीं | RTX 3090 (यदि स्थानीय LLMs चला रहे हों) | केवल Ollama/vLLM बैकएंड के लिए आवश्यक | | **VRAM** | — | 24 GB (RTX 3090) | स्थानीय मॉडल inference के लिए | | **CPU** | 2 vCPU | 4+ vCPU | LobeChat स्वयं हल्का है | | **RAM** | 2 जीबी | 8 GB | यदि डेटाबेस मोड का उपयोग कर रहे हों तो 4+ GB | | **स्टोरेज** | 10 GB | 50+ GB | यदि अपलोड की गई फाइलें या मॉडल संग्रहीत कर रहे हों तो अधिक | ### Clore.ai मूल्य निर्धारण संदर्भ | सर्वर प्रकार | अनुमानित लागत | उपयोग-प्रकरण | | --------------------- | ----------------------------------------- | --------------------------------- | | केवल CPU इंस्टेंस | \~$0.05–0.10/घंटा | केवल Standalone LobeChat | | RTX 3090 (24 GB VRAM) | $0.07–0.21/hr | LobeChat + Ollama स्थानीय LLMs | | RTX 4090 (24 GB VRAM) | $0.14–0.42/hr | LobeChat + तेज़ स्थानीय inference | | A100 80 GB | [bare metal](https://clore.ai/bare-metal) | LobeChat + बड़े मॉडल (70B+) | > 💡 **सुझाव:** केवल API उपयोग (OpenAI, Anthropic आदि से कनेक्ट करने) के लिए कोई भी छोटा इंस्टेंस काम करेगा। GPU सर्वर तभी उचित है जब आप स्थानीय LLMs भी चलाना चाहते हों। [GPU तुलना गाइड](/guides/guides_v2-hi/getting-started/gpu-comparison.md) विवरण के लिए। ### पूर्वापेक्षाएँ * तैनात सर्वर के साथ Clore.ai खाता * आपके सर्वर तक SSH पहुँच * Docker और Docker Compose (Clore.ai सर्वरों पर पहले से स्थापित) * NVIDIA ड्राइवर (पहले से स्थापित; केवल स्थानीय LLM बैकएंड का उपयोग करने पर प्रासंगिक) * कम से कम एक API key (OpenAI, Anthropic, आदि) **या** एक स्थानीय Ollama इंस्टेंस *** ## त्वरित शुरुआत ### विकल्प A: Standalone मोड (शुरुआत के लिए अनुशंसित) Standalone मोड में LobeChat एक ही कंटेनर के रूप में चलता है। सेटिंग्स और conversation history ब्राउज़र के local storage में संग्रहीत होते हैं — किसी डेटाबेस की आवश्यकता नहीं। **चरण 1: अपने Clore.ai सर्वर से कनेक्ट करें** ```bash ssh root@ -p ``` **चरण 2: LobeChat डाउनलोड और चलाएँ** ```bash docker run -d \\ --name lobechat \\ --restart unless-stopped \\ -p 3210:3210 \\ -e OPENAI_API_KEY=sk-your-openai-key-here \\ -e OPENAI_PROXY_URL=https://api.openai.com/v1 \\ lobehub/lobe-chat ``` **चरण 3: सत्यापित करें कि यह चल रहा है** ```bash docker ps docker logs lobechat --tail 20 ``` **चरण 4: इंटरफ़ेस खोलें** अपना browser खोलें और यहाँ जाएँ: ``` http://:3210 ``` > ⚠️ **सुरक्षा नोट:** Clore.ai सर्वर सार्वजनिक रूप से उपलब्ध होते हैं। सेट करने पर विचार करें `ACCESS_CODE` ताकि आपके इंस्टेंस पर पासवर्ड सुरक्षा हो सके (नीचे Configuration अनुभाग देखें)। *** ### विकल्प B: कई प्रदाताओं के साथ Standalone एक साथ अलग-अलग प्रदाताओं का समर्थन करने के लिए कई API keys पास करें: ```bash docker run -d \\ --name lobechat \\ --restart unless-stopped \\ -p 3210:3210 \\ -e OPENAI_API_KEY=sk-your-openai-key \ -e ANTHROPIC_API_KEY=sk-ant-your-anthropic-key \ -e GOOGLE_API_KEY=your-google-gemini-key \\ -e MISTRAL_API_KEY=your-mistral-key \\ -e ACCESS_CODE=your-secret-password \\ lobehub/lobe-chat ``` *** ### विकल्प C: स्थानीय Ollama बैकएंड के साथ यदि आपके पास उसी Clore.ai सर्वर पर Ollama चल रहा है (देखें [Ollama गाइड](/guides/guides_v2-hi/language-models/ollama.md)): ```bash # सबसे पहले, Ollama शुरू करें docker run -d \\ --name ollama \\ --restart unless-stopped \\ --gpus all \\ -p 11434:11434 \ -v ollama:/root/.ollama \\ ollama/ollama # एक मॉडल डाउनलोड करें docker exec ollama ollama pull llama3.2 # LobeChat को Ollama की ओर इंगित करते हुए शुरू करें docker run -d \\ --name lobechat \\ --restart unless-stopped \\ -p 3210:3210 \\ -e OLLAMA_PROXY_URL=http://host-gateway:11434 \\ --add-host=host-gateway:host-gateway \\ lobehub/lobe-chat ``` > Linux पर, इसे बदलें `host-gateway` वास्तविक Docker bridge IP से, आमतौर पर `172.17.0.1`: > > ```bash > -e OLLAMA_PROXY_URL=http://172.17.0.1:11434 > ``` *** ### विकल्प D: डेटाबेस मोड (Docker Compose) डेटाबेस मोड स्थायी conversation history, multi-user support, S3-संगत storage में file uploads, और एक पूर्ण knowledge base सक्षम करता है। **चरण 1: प्रोजेक्ट डायरेक्टरी बनाएँ** ```bash mkdir -p ~/lobechat && cd ~/lobechat ``` **चरण 2: बनाएँ `docker-compose.yml`** ```bash cat > docker-compose.yml << 'EOF' version: '3.8' services: postgresql: image: pgvector/pgvector:pg16 container_name: lobe-postgres restart: unless-stopped environment: POSTGRES_DB: lobechat POSTGRES_USER: lobechat POSTGRES_PASSWORD: changeme_strong_password volumes: - postgres_data:/var/lib/postgresql/data healthcheck: test: ["CMD-SHELL", "pg_isready -U lobechat -d lobechat"] interval: 10s timeout: 5s retries: 5 minio: image: minio/minio container_name: lobe-minio restart: unless-stopped environment: MINIO_ROOT_USER: minioadmin MINIO_ROOT_PASSWORD: changeme_minio_password command: server /data --console-address ":9001" volumes: - minio_data:/data ports: - "9000:9000" - "9001:9001" lobechat: image: lobehub/lobe-chat-database container_name: lobe-chat restart: unless-stopped depends_on: postgresql: condition: service_healthy ports: - "3210:3210" environment: # डेटाबेस DATABASE_URL: postgresql://lobechat:changeme_strong_password@postgresql:5432/lobechat # S3 Storage (MinIO) S3_ENDPOINT: http://minio:9000 S3_BUCKET: lobechat S3_ACCESS_KEY_ID: minioadmin S3_SECRET_ACCESS_KEY: changeme_minio_password S3_PUBLIC_DOMAIN: http://:9000 # Auth (NextAuth) NEXTAUTH_SECRET: your-random-32-char-secret-here NEXTAUTH_URL: http://:3210 # LLM Providers OPENAI_API_KEY: sk-your-openai-key ANTHROPIC_API_KEY: sk-ant-your-key # App APP_URL: http://:3210 volumes: postgres_data: minio_data: EOF ``` **चरण 3: स्टैक शुरू करें** ```bash docker compose up -d docker compose logs -f lobechat ``` **चरण 4: MinIO bucket बनाएँ** ```bash # MinIO client स्थापित करें docker exec lobe-minio mc alias set local http://localhost:9000 minioadmin changeme_minio_password docker exec lobe-minio mc mb local/lobechat docker exec lobe-minio mc anonymous set download local/lobechat ``` *** ## कॉन्फ़िगरेशन ### पर्यावरण चर संदर्भ | वेरिएबल | विवरण | डिफ़ॉल्ट | | ---------------------- | ------------------------------------------- | --------------------------- | | `OPENAI_API_KEY` | OpenAI API कुंजी | — | | `OPENAI_PROXY_URL` | कस्टम OpenAI-संगत एंडपॉइंट | `https://api.openai.com/v1` | | `ANTHROPIC_API_KEY` | Anthropic Claude API key | — | | `GOOGLE_API_KEY` | Google Gemini API key | — | | `MISTRAL_API_KEY` | Mistral AI API key | — | | `OLLAMA_PROXY_URL` | स्थानीय Ollama इंस्टेंस का URL | — | | `ACCESS_CODE` | इंटरफ़ेस को सुरक्षित करने के लिए पासवर्ड | — | | `DEFAULT_AGENT_CONFIG` | डिफ़ॉल्ट सहायक व्यवहार के लिए JSON कॉन्फ़िग | — | | `FEATURE_FLAGS` | विशिष्ट फीचर्स को सक्षम/अक्षम करें | — | ### विशिष्ट फीचर्स सक्षम करना **वेब सर्च प्लगइन सक्षम करें:** ```bash -e BING_API_KEY=your-bing-search-key ``` **टेक्स्ट-टू-स्पीच सक्षम करें:** ```bash -e AZURE_TTS_API_KEY=your-azure-key \\ -e AZURE_TTS_REGION=eastus ``` **डिफ़ॉल्ट एजेंट के लिए कस्टम सिस्टम प्रॉम्प्ट सेट करें:** ```bash -e DEFAULT_AGENT_CONFIG='{"systemRole":"आप एक सहायक सहायक हैं."}' ``` ### LobeChat अपडेट करना ```bash # नवीनतम इमेज डाउनलोड करें docker pull lobehub/lobe-chat # पुराने कंटेनर को रोकें और हटाएँ docker stop lobechat && docker rm lobechat # समान पैरामीटर के साथ नया कंटेनर शुरू करें docker run -d \\ --name lobechat \\ --restart unless-stopped \\ -p 3210:3210 \\ -e OPENAI_API_KEY=sk-your-key \\ lobehub/lobe-chat ``` Docker Compose के लिए: ```bash docker compose pull docker compose up -d ``` *** ## GPU त्वरण LobeChat स्वयं **नहीं** GPU की आवश्यकता नहीं करता। हालांकि, जब इसे Clore.ai पर GPU-त्वरित बैकएंड के साथ जोड़ा जाता है, तो आपको स्थानीय, निजी LLM inference मिलता है: ### vLLM के साथ जोड़ना (उच्च-प्रदर्शन inference) देखें [vLLM गाइड](/guides/guides_v2-hi/language-models/vllm.md) पूर्ण सेटअप के लिए। त्वरित एकीकरण: ```bash # vLLM सर्वर शुरू करें (उसी होस्ट पर) docker run -d \\ --name vllm \\ --gpus all \\ --restart unless-stopped \\ -p 8000:8000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \\ vllm/vllm-openai:latest \ --model meta-llama/Llama-3.1-8B-Instruct \ --served-model-name llama3.1-8b # LobeChat को vLLM की ओर इंगित करते हुए शुरू करें (OpenAI-संगत API) docker run -d \\ --name lobechat \\ --restart unless-stopped \\ -p 3210:3210 \\ -e OPENAI_API_KEY=not-needed \\ -e OPENAI_PROXY_URL=http://172.17.0.1:8000/v1 \\ lobehub/lobe-chat ``` ### संसाधन उपयोग | बैकएंड | उपयोग की गई GPU VRAM | अनुमानित थ्रूपुट | | --------------------- | -------------------- | ----------------------------- | | Ollama (Llama 3.2 3B) | \~2 GB | 3090 पर 50–80 टोकन/सेकंड | | Ollama (Llama 3.1 8B) | \~6 GB | 3090 पर 40–60 टोकन/सेकंड | | vLLM (Llama 3.1 8B) | \~16 GB | 3090 पर 80–150 टोकन/सेकंड | | vLLM (Llama 3.1 70B) | \~80 GB | A100 80GB पर 20–40 टोकन/सेकंड | *** ## टिप्स और सर्वोत्तम अभ्यास ### लागत अनुकूलन * **निष्क्रिय होने पर अपने सर्वर को बंद करें।** Clore.ai घंटे के हिसाब से शुल्क लेता है — डैशबोर्ड का उपयोग करके उन इंस्टेंस को रोकें जिनका आप सक्रिय रूप से उपयोग नहीं कर रहे हैं। * **व्यक्तिगत उपयोग के लिए Standalone मोड।** जब तक आपको multi-user support या स्थायी server-side history की आवश्यकता न हो, Standalone मोड PostgreSQL और MinIO के ओवरहेड से बचाता है। * **बड़े मॉडल के लिए API प्रदाताओं का उपयोग करें।** कभी-कभार आने वाले queries के लिए Claude या GPT-4 अनुरोधों को बाहरी APIs के माध्यम से रूट करना H100 किराए पर लेने से सस्ता है। ### सुरक्षा ```bash # सार्वजनिक Clore.ai IPs पर हमेशा एक access code सेट करें -e ACCESS_CODE=your-strong-password-here # विशिष्ट origin तक सीमित करें (वैकल्पिक) -e NEXT_PUBLIC_SERVICE_MODE=server ``` * LobeChat को कभी भी बिना `ACCESS_CODE` इसे सार्वजनिक IP पर उजागर न करें। * यदि लंबे समय तक चला रहे हों, तो HTTPS के साथ Nginx reverse proxy का उपयोग करने पर विचार करें। * यदि आपको exposure का संदेह हो, तो API keys को rotate करें। ### प्रदर्शन ```bash # कई उपयोगकर्ताओं के साथ डेटाबेस मोड चला रहे हों तो Node.js heap बढ़ाएँ -e NODE_OPTIONS="--max-old-space-size=4096" ``` * 10+ concurrent users के साथ डेटाबेस मोड के लिए, होस्ट पर कम से कम 8 GB RAM सुनिश्चित करें। * MinIO SSD-backed storage (Clore.ai NVMe instances) के साथ बेहतर प्रदर्शन करता है। ### Clore.ai सत्रों के बीच स्थायित्व चूँकि Clore.ai सर्वर समाप्त किए जा सकते हैं: ```bash # standalone conversation exports के लिए एक Docker volume बनाएँ docker run -d \\ --name lobechat \\ -p 3210:3210 \\ -v lobechat_data:/app/data \\ lobehub/lobe-chat ``` UI में Settings → Data Export से नियमित रूप से conversations export करें। *** ## समस्या निवारण ### कंटेनर शुरू होने में विफल ```bash # लॉग्स जांचें docker logs lobechat --tail 50 # जाँचें कि पोर्ट उपयोग में नहीं है ss -tlnp | grep 3210 # जाँचें कि Docker daemon चल रहा है systemctl status docker ``` ### LobeChat से Ollama से कनेक्ट नहीं हो पा रहा ```bash # LobeChat कंटेनर से कनेक्टिविटी का परीक्षण करें docker exec lobechat curl -s http://172.17.0.1:11434/api/tags # यदि यह विफल हो, तो जाँचें कि Ollama सभी interfaces पर सुन रहा है docker exec ollama ollama serve --host 0.0.0.0 ``` ### डेटाबेस कनेक्शन त्रुटियाँ (डेटाबेस मोड) ```bash # PostgreSQL health जाँचें docker exec lobe-postgres pg_isready -U lobechat # DATABASE_URL format सत्यापित करें # postgresql://user:password@host:port/dbname # आवश्यकता होने पर migrations मैन्युअल रूप से चलाएँ docker exec lobe-chat npx prisma migrate deploy ``` ### छवियाँ/फाइलें अपलोड नहीं हो रही हैं (डेटाबेस मोड) ```bash # जाँचें कि MinIO सुलभ है curl -s http://localhost:9000/minio/health/live # जाँचें कि bucket मौजूद है docker exec lobe-minio mc ls local/ # जाँचें कि S3_PUBLIC_DOMAIN सही सर्वर IP पर सेट है ``` ### मेमोरी खत्म होने की त्रुटियाँ ```bash # वर्तमान मेमोरी उपयोग जाँचें docker stats lobechat # कंटेनर मेमोरी सीमा बढ़ाएँ docker run -d \\ --name lobechat \\ --memory=2g \\ -p 3210:3210 \\ lobehub/lobe-chat ``` *** ## अधिक पढ़ें * [LobeChat दस्तावेज़ीकरण](https://lobehub.com/docs) — आधिकारिक docs, plugin development, deployment guides * [LobeChat GitHub](https://github.com/lobehub/lobe-chat) — source code, issues, discussions * [Clore.ai पर Ollama चलाना](/guides/guides_v2-hi/language-models/ollama.md) — LobeChat के लिए स्थानीय LLM बैकएंड * [Clore.ai पर vLLM चलाना](/guides/guides_v2-hi/language-models/vllm.md) — उच्च-प्रदर्शन OpenAI-संगत inference * [GPU तुलना गाइड](/guides/guides_v2-hi/getting-started/gpu-comparison.md) — सही Clore.ai GPU चुनना * [LobeChat Docker Hub](https://hub.docker.com/r/lobehub/lobe-chat) — image tags और versions * [LobeChat Environment Variables](https://lobehub.com/docs/self-hosting/environment-variables) — पूर्ण variable reference --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://docs.clore.ai/guides/guides_v2-hi/ai/lobechat.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.