> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-hi/ai-platforms-and-agents/lobechat.md). # LobeChat AI Assistant ## अवलोकन [LobeChat](https://github.com/lobehub/lobe-chat) एक आधुनिक ओपन-सोर्स एआई चैट फ्रेमवर्क है जिसके 55K+ GitHub स्टार हैं, जो अपने परिष्कृत UI और व्यापक फीचर सेट के लिए जाना जाता है। यह मूल रूप से हर बड़े LLM प्रदाता — OpenAI, Anthropic Claude, Google Gemini, Mistral, और Ollama के माध्यम से स्थानीय मॉडल — को एक ही, स्वयं-होस्ट किए गए इंटरफ़ेस से समर्थन करता है। **Clore.ai पर LobeChat क्यों चलाना चाहिए?** * **किसी GPU की आवश्यकता नहीं** — LobeChat स्वयं एक हल्का वेब ऐप है। Clore.ai के केवल-CPU या न्यूनतम-GPU इंस्टेंस इंटरफ़ेस के लिए पूरी तरह पर्याप्त हैं। * **स्थानीय LLMs के साथ जोड़ें** — उसी Clore.ai सर्वर पर Ollama या vLLM चालू करें और पूर्णतः स्थानीय, निजी इन्फरेंस के लिए LobeChat को उस पर पॉइंट करें। * **किफायती होस्टिंग** — एक बुनियादी Clore.ai इंस्टेंस पारंपरिक VPS प्रदाताओं की तुलना में बहुत कम लागत का होता है, और आप उपयोग न होने पर इसे बंद कर सकते हैं। * **पूर्ण डेटा स्वामित्व** — डेटाबेस मोड सभी वार्तालापों, फ़ाइलों और एम्बेडिंग्स को आपके सर्वर पर आपके स्वयं के PostgreSQL इंस्टेंस में संग्रहीत करता है। LobeChat दो अलग-अलग मोड में संचालित होता है: | मोड | विवरण | उत्तम हेतु | | -------------- | ------------------------------------------------- | ------------------------------- | | **स्टैंडअलोन** | एकल Docker कंटेनर, सेटिंग्स ब्राउज़र में संग्रहीत | त्वरित परीक्षण, व्यक्तिगत उपयोग | | **डेटाबेस** | पूर्ण स्टैक (PostgreSQL + MinIO + Auth + App) | टीमें, स्थायी इतिहास, नॉलेज बेस | *** ## आवश्यकताएँ ### सर्वर विनिर्देश | घटक | न्यूनतम | अनुशंसित | नोट्स | | ----------- | --------------- | --------------------------------------- | ------------------------------------------------------------- | | **GPU** | कोई आवश्यक नहीं | RTX 3090 (यदि स्थानीय LLMs चला रहे हों) | केवल Ollama/vLLM बैकएंड चलाने के लिए आवश्यक | | **VRAM** | — | 24 GB (RTX 3090) | स्थानीय मॉडल इन्फरेंस के लिए | | **CPU** | 2 vCPU | 4+ vCPU | LobeChat स्वयं हल्का है | | **RAM** | 2 GB | 8 GB | डेटाबेस मोड का उपयोग करने पर 4+ GB | | **स्टोरेज** | 10 GB | 50+ GB | अपलोड की गई फ़ाइलें या मॉडल संग्रहीत करने पर अधिक आवश्यक होगा | ### Clore.ai मूल्य संदर्भ | सर्वर प्रकार | अनुमानित लागत | उपयोग का मामला | | --------------------- | ----------------- | -------------------------------- | | केवल-CPU इंस्टेंस | \~$0.05–0.10/घंटा | केवल स्टैंडअलोन LobeChat के लिए | | RTX 3090 (24 GB VRAM) | \~$0.20/घंटा | LobeChat + Ollama स्थानीय LLMs | | RTX 4090 (24 GB VRAM) | \~$0.35/घंटा | LobeChat + तेज़ स्थानीय इन्फरेंस | | A100 80 GB | \~$1.10/घंटा | LobeChat + बड़े मॉडल (70B+) | > 💡 **संकेत:** केवल API उपयोग (OpenAI, Anthropic आदि से कनेक्ट करना) के लिए, कोई भी छोटा इंस्टेंस काम करेगा। केवल तभी GPU सर्वर तर्कसंगत है जब आप स्थानीय LLMs भी चलाना चाहते हों। देखें [GPU तुलना मार्गदर्शिका](/guides/guides_v2-hi/getting-started/gpu-comparison.md) विवरण के लिए। ### पूर्वापेक्षाएँ * Clore.ai खाता और तैनात सर्वर * अपने सर्वर के लिए SSH एक्सेस * Docker और Docker Compose (Clore.ai सर्वरों पर पहले से इंस्टॉल) * NVIDIA ड्राइवर (पहले से इंस्टॉल; केवल स्थानीय LLM बैकएंड उपयोग करने पर प्रासंगिक) * कम से कम एक API कुंजी (OpenAI, Anthropic, आदि) **या** एक स्थानीय Ollama इंस्टेंस *** ## त्वरित प्रारम्भ ### विकल्प A: स्टैंडअलोन मोड (शुरू करने के लिए अनुशंसित) स्टैंडअलोन मोड LobeChat को एकल कंटेनर के रूप में चलाता है। सेटिंग्स और वार्तालाप इतिहास ब्राउज़र के स्थानीय स्टोरेज में संग्रहीत होते हैं — किसी डेटाबेस की आवश्यकता नहीं। **चरण 1: अपने Clore.ai सर्वर से कनेक्ट करें** ```bash ssh root@ -p ``` **चरण 2: LobeChat को पुल करें और चलाएँ** ```bash docker run -d \ --name lobechat \ --restart unless-stopped \ -p 3210:3210 \ -e OPENAI_API_KEY=sk-your-openai-key-here \ -e OPENAI_PROXY_URL=https://api.openai.com/v1 \ lobehub/lobe-chat ``` **चरण 3: सत्यापित करें कि यह चल रहा है** ```bash docker ps docker logs lobechat --tail 20 ``` **चरण 4: इंटरफ़ेस तक पहुँचें** अपने ब्राउज़र को खोलें और नेविगेट करें: ``` http://:3210 ``` > ⚠️ **सुरक्षा नोट:** Clore.ai सर्वर सार्वजनिक रूप से पहुँच योग्य हैं। सेट करने पर विचार करें `ACCESS_CODE` अपने इंस्टेंस को पासवर्ड-प्रोटेक्ट करने के लिए (नीचे कॉन्फ़िगरेशन अनुभाग देखें)। *** ### विकल्प B: कई प्रदाताओं के साथ स्टैंडअलोन विभिन्न प्रदाताओं को एक-साथ समर्थन देने के लिए कई API कुंजियाँ पास करें: ```bash docker run -d \ --name lobechat \ --restart unless-stopped \ -p 3210:3210 \ -e OPENAI_API_KEY=sk-your-openai-key \ -e ANTHROPIC_API_KEY=sk-ant-your-anthropic-key \ -e GOOGLE_API_KEY=your-google-gemini-key \ -e MISTRAL_API_KEY=your-mistral-key \ -e ACCESS_CODE=your-secret-password \ lobehub/lobe-chat ``` *** ### विकल्प C: स्थानीय Ollama बैकएंड के साथ यदि आपके पास उसी Clore.ai सर्वर पर Ollama चल रहा है (देखें [Ollama गाइड](/guides/guides_v2-hi/language-models/ollama.md)): ```bash # First, start Ollama docker run -d \ --name ollama \ --restart unless-stopped \ --gpus all \ -p 11434:11434 \ -v ollama:/root/.ollama \ ollama/ollama # Pull a model docker exec ollama ollama pull llama3.2 # Start LobeChat pointing to Ollama docker run -d \ --name lobechat \ --restart unless-stopped \ -p 3210:3210 \ -e OLLAMA_PROXY_URL=http://host-gateway:11434 \ --add-host=host-gateway:host-gateway \ lobehub/lobe-chat ``` > Linux पर, बदलें `host-gateway` वास्तविक Docker ब्रिज IP से, जो आमतौर पर `172.17.0.1`: > > ```bash > -e OLLAMA_PROXY_URL=http://172.17.0.1:11434 > ``` *** ### विकल्प D: डेटाबेस मोड (Docker Compose) डेटाबेस मोड स्थायी वार्तालाप इतिहास, मल्टी-यूज़र समर्थन, S3-संगत स्टोरेज पर फ़ाइल अपलोड और पूर्ण नॉलेज बेस सक्षम करता है। **चरण 1: प्रोजेक्ट डायरेक्टरी बनाएं** ```bash mkdir -p ~/lobechat && cd ~/lobechat ``` **चरण 2: बनाएं `docker-compose.yml`** ```bash cat > docker-compose.yml << 'EOF' version: '3.8' services: postgresql: image: pgvector/pgvector:pg16 container_name: lobe-postgres restart: unless-stopped environment: POSTGRES_DB: lobechat POSTGRES_USER: lobechat POSTGRES_PASSWORD: changeme_strong_password volumes: - postgres_data:/var/lib/postgresql/data healthcheck: test: ["CMD-SHELL", "pg_isready -U lobechat -d lobechat"] interval: 10s timeout: 5s retries: 5 minio: image: minio/minio container_name: lobe-minio restart: unless-stopped environment: MINIO_ROOT_USER: minioadmin MINIO_ROOT_PASSWORD: changeme_minio_password command: server /data --console-address ":9001" volumes: - minio_data:/data ports: - "9000:9000" - "9001:9001" lobechat: image: lobehub/lobe-chat-database container_name: lobe-chat restart: unless-stopped depends_on: postgresql: condition: service_healthy ports: - "3210:3210" environment: # Database DATABASE_URL: postgresql://lobechat:changeme_strong_password@postgresql:5432/lobechat # S3 Storage (MinIO) S3_ENDPOINT: http://minio:9000 S3_BUCKET: lobechat S3_ACCESS_KEY_ID: minioadmin S3_SECRET_ACCESS_KEY: changeme_minio_password S3_PUBLIC_DOMAIN: http://:9000 # Auth (NextAuth) NEXTAUTH_SECRET: your-random-32-char-secret-here NEXTAUTH_URL: http://:3210 # LLM Providers OPENAI_API_KEY: sk-your-openai-key ANTHROPIC_API_KEY: sk-ant-your-key # App APP_URL: http://:3210 volumes: postgres_data: minio_data: EOF ``` **चरण 3: स्टैक शुरू करें** ```bash docker compose up -d docker compose logs -f lobechat ``` **चरण 4: MinIO बकेट बनाएं** ```bash # Install MinIO client docker exec lobe-minio mc alias set local http://localhost:9000 minioadmin changeme_minio_password docker exec lobe-minio mc mb local/lobechat docker exec lobe-minio mc anonymous set download local/lobechat ``` *** ## कॉन्फ़िगरेशन ### पर्यावरण चर संदर्भ | वैरिएबल | विवरण | डिफ़ॉल्ट | | ---------------------- | ------------------------------------------- | --------------------------- | | `OPENAI_API_KEY` | OpenAI API कुंजी | — | | `OPENAI_PROXY_URL` | कस्टम OpenAI-संगत अंतबिंदु | `https://api.openai.com/v1` | | `ANTHROPIC_API_KEY` | Anthropic Claude API कुंजी | — | | `GOOGLE_API_KEY` | Google Gemini API कुंजी | — | | `MISTRAL_API_KEY` | Mistral AI API कुंजी | — | | `OLLAMA_PROXY_URL` | स्थानीय Ollama इंस्टेंस का URL | — | | `ACCESS_CODE` | इंटरफ़ेस की सुरक्षा के लिए पासवर्ड | — | | `DEFAULT_AGENT_CONFIG` | डिफ़ॉल्ट सहायक व्यवहार के लिए JSON कॉन्फ़िग | — | | `FEATURE_FLAGS` | विशिष्ट सुविधाओं को सक्षम/अक्षम करें | — | ### विशिष्ट सुविधाओं को सक्षम करना **वेब सर्च प्लगइन सक्षम करें:** ```bash -e BING_API_KEY=your-bing-search-key ``` **टेक्स्ट-टू-स्पीच सक्षम करें:** ```bash -e AZURE_TTS_API_KEY=your-azure-key \ -e AZURE_TTS_REGION=eastus ``` **डिफ़ॉल्ट एजेंट के लिए कस्टम सिस्टम प्रॉम्प्ट सेट करें:** ```bash -e DEFAULT_AGENT_CONFIG='{"systemRole":"You are a helpful assistant."}' ``` ### LobeChat अपडेट करना ```bash # नवीनतम इमेज पुल करें docker pull lobehub/lobe-chat # पुराने कंटेनर को रोकें और हटाएँ docker stop lobechat && docker rm lobechat # वही पैरामीटर रखते हुए नया कंटेनर प्रारंभ करें docker run -d \ --name lobechat \ --restart unless-stopped \ -p 3210:3210 \ -e OPENAI_API_KEY=sk-your-key \ lobehub/lobe-chat ``` Docker Compose के लिए: ```bash docker compose pull docker compose up -d ``` *** ## GPU त्वरक LobeChat स्वयं **समर्थन** GPU की आवश्यकता नहीं करता। हालाँकि, जब इसे Clore.ai पर GPU-त्वरित बैकएंड के साथ जोड़ा जाता है, तो आपको स्थानीय, निजी LLM इन्फरेंस मिलता है: ### vLLM के साथ पेयरिंग (उच्च-प्रदर्शन इन्फरेंस) पूरे सेटअप के लिए देखें [vLLM गाइड](/guides/guides_v2-hi/language-models/vllm.md) त्वरित एकीकरण: ```bash # vLLM सर्वर शुरू करें (एक ही होस्ट पर) docker run -d \ --name vllm \ --gpus all \ --restart unless-stopped \ -p 8000:8000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ vllm/vllm-openai:latest \ --model meta-llama/Llama-3.1-8B-Instruct \ --served-model-name llama3.1-8b # OpenAI-संगत API के लिए vLLM की ओर इशारा करते हुए LobeChat शुरू करें docker run -d \ --name lobechat \ --restart unless-stopped \ -p 3210:3210 \ -e OPENAI_API_KEY=not-needed \ -e OPENAI_PROXY_URL=http://172.17.0.1:8000/v1 \ lobehub/lobe-chat ``` ### संसाधन उपयोग | बैकएंड | GPU VRAM उपयोग | अनुमानित थ्रूपुट | | --------------------- | -------------- | ----------------------------- | | Ollama (Llama 3.2 3B) | \~2 GB | 3090 पर 50–80 टोकन/सेकंड | | Ollama (Llama 3.1 8B) | \~6 GB | 3090 पर 40–60 टोकन/सेकंड | | vLLM (Llama 3.1 8B) | \~16 GB | 3090 पर 80–150 टोकन/सेकंड | | vLLM (Llama 3.1 70B) | \~80 GB | A100 80GB पर 20–40 टोकन/सेकंड | *** ## टिप्स और सर्वोत्तम प्रथाएँ ### लागत अनुकूलन * **जब सर्वर निष्क्रिय हो तो उसे रोक दें।** Clore.ai प्रति घंटे शुल्क लेता है — उन इंस्टेंसों को अस्थायी रूप से रोकने के लिए डैशबोर्ड का उपयोग करें जिन्हें आप सक्रिय रूप से उपयोग नहीं कर रहे हैं। * **व्यक्तिगत उपयोग के लिए स्टैंडअलोन मोड।** जब तक आपको मल्टी-यूज़र समर्थन या सर्वर-साइड परस्थायी इतिहास की आवश्यकता न हो, स्टैंडअलोन मोड PostgreSQL और MinIO के ओवरहेड से बचाता है। * **बड़े मॉडलों के लिए API प्रदाताओं का उपयोग करें।** Claude या GPT-4 अनुरोधों को बाहरी APIs के माध्यम से रूट करना कभी-कभी आकस्मिक प्रश्नों के लिए H100 किराए पर लेने से सस्ता होता है। ### सुरक्षा ```bash # सार्वजनिक Clore.ai IPs पर हमेशा एक एक्सेस कोड सेट करें -e ACCESS_CODE=your-strong-password-here # विशिष्ट ऑरिजिन तक प्रतिबंधित करें (वैकल्पिक) -e NEXT_PUBLIC_SERVICE_MODE=server ``` * कभी भी सार्वजनिक IP पर LobeChat को बिना `ACCESS_CODE` के उजागर न करें। * लंबे समय तक चलाने पर HTTPS के साथ Nginx रिवर्स प्रॉक्सी का उपयोग करने पर विचार करें। * यदि आपको कुंजी के एक्सपोज़ होने का संदेह हो तो API कुंजियों को रोटेट करें। ### प्रदर्शन ```bash # यदि कई उपयोगकर्ताओं के साथ डेटाबेस मोड चला रहे हैं तो Node.js heap बढ़ाएँ -e NODE_OPTIONS="--max-old-space-size=4096" ``` * 10+ समकालिक उपयोगकर्ताओं वाले डेटाबेस मोड के लिए, होस्ट पर कम से कम 8 GB RAM सुनिश्चित करें। * MinIO NVMe-backed (SSD) स्टोरेज के साथ बेहतर प्रदर्शन करता है (Clore.ai NVMe इंस्टेंस)। ### Clore.ai सत्रों के बीच परसिस्टेंस चूँकि Clore.ai सर्वरों को समाप्त किया जा सकता है: ```bash # स्टैंडअलोन वार्तालाप एक्सपोर्ट के लिए Docker वॉल्यूम बनाएं docker run -d \ --name lobechat \ -p 3210:3210 \ -v lobechat_data:/app/data \ lobehub/lobe-chat ``` UI में सेटिंग्स → डेटा एक्सपोर्ट से नियमित रूप से वार्तालाप निर्यात करें। *** ## समस्याओं का निवारण ### कंटेनर शुरू नहीं हो रहा ```bash # लॉग्स जांचें docker logs lobechat --tail 50 # पुष्टि करें कि पोर्ट उपयोग में नहीं है ss -tlnp | grep 3210 # जांचें कि Docker daemon चल रहा है systemctl status docker ``` ### LobeChat से Ollama से कनेक्ट नहीं कर पा रहे ```bash # LobeChat कंटेनर से कनेक्टिविटी का परीक्षण करें docker exec lobechat curl -s http://172.17.0.1:11434/api/tags # यदि वह विफल होता है, तो जाँच करें कि Ollama सभी इंटरफेस पर सुन रहा है docker exec ollama ollama serve --host 0.0.0.0 ``` ### डेटाबेस कनेक्शन त्रुटियाँ (डेटाबेस मोड) ```bash # PostgreSQL स्वास्थ्य की जाँच करें docker exec lobe-postgres pg_isready -U lobechat # DATABASE_URL फ़ॉर्मेट सत्यापित करें # postgresql://user:password@host:port/dbname # आवश्यक होने पर माइग्रेशन मैन्युअली चलाएँ docker exec lobe-chat npx prisma migrate deploy ``` ### इमेज/फ़ाइलें अपलोड नहीं हो रही (डेटाबेस मोड) ```bash # जाँचें कि MinIO सुलभ है curl -s http://localhost:9000/minio/health/live # पुष्टि करें कि बकेट मौजूद है docker exec lobe-minio mc ls local/ # जाँचें कि S3_PUBLIC_DOMAIN सही सर्वर IP पर सेट है ``` ### मेमोरी समाप्ति त्रुटियाँ ```bash # वर्तमान मेमोरी उपयोग जांचें docker stats lobechat # कंटेनर मेमोरी सीमा बढ़ाएँ docker run -d \ --name lobechat \ --memory=2g \ -p 3210:3210 \ lobehub/lobe-chat ``` *** ## अधिक पढ़ने के लिए * [LobeChat दस्तावेज़ीकरण](https://lobehub.com/docs) — आधिकारिक डॉक्स, प्लगइन विकास, तैनाती मार्गदर्शिकाएँ * [LobeChat GitHub](https://github.com/lobehub/lobe-chat) — स्रोत कोड, इश्यूज़, चर्चाएँ * [Clore.ai पर Ollama चलाना](/guides/guides_v2-hi/language-models/ollama.md) — LobeChat के लिए स्थानीय LLM बैकएंड * [Clore.ai पर vLLM चलाना](/guides/guides_v2-hi/language-models/vllm.md) — उच्च-प्रदर्शन OpenAI-संगत इन्फरेंस * [GPU तुलना मार्गदर्शिका](/guides/guides_v2-hi/getting-started/gpu-comparison.md) — सही Clore.ai GPU चुनना * [LobeChat Docker Hub](https://hub.docker.com/r/lobehub/lobe-chat) — इमेज टैग और वर्शन * [LobeChat वातावरण वेरिएबल्स](https://lobehub.com/docs/self-hosting/environment-variables) — पूर्ण वेरिएबल संदर्भ --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://docs.clore.ai/guides/guides_v2-hi/ai-platforms-and-agents/lobechat.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.