For the complete documentation index, see llms.txt. This page is also available as Markdown.

LobeChat AI 助手

在 Clore.ai 上部署 LobeChat——一个惊艳且功能丰富的 AI 聊天界面,支持多提供商、知识库和插件,运行在经济实惠的 GPU 支持云服务器上。

概览

LobeChat 是一个现代的开源 AI 聊天框架,GitHub 星标超过 55K,以其精致的界面和丰富的功能著称。它支持几乎所有主要的 LLM 提供商——OpenAI、Anthropic Claude、Google Gemini、Mistral,以及通过 Ollama 的本地模型——并且都可以通过单一的自托管界面访问。

为什么要在 Clore.ai 上运行 LobeChat?

  • 无需 GPU — LobeChat 本身是一个轻量的 Web 应用。Clore.ai 的仅 CPU 或低 GPU 实例已完全足够用于界面。

  • 与本地 LLM 配合 — 在同一台 Clore.ai 服务器上启动 Ollama 或 vLLM,并将 LobeChat 指向它以实现完全本地的私有推理。

  • 经济实惠的托管 — 基本的 Clore.ai 实例费用只是传统 VPS 提供商的一小部分,而且在不使用时可以将其关闭。

  • 完整的数据所有权 — 数据库模式将所有对话、文件和嵌入存储在服务器上的 PostgreSQL 实例中,由你自行掌控。

LobeChat 有两种不同的运行模式:

模式
4s
最适合

独立模式

单个 Docker 容器,设置存储在浏览器中

快速测试、个人使用

数据库模式

完整栈(PostgreSQL + MinIO + 认证 + 应用)

团队、多用户历史、知识库


要求

服务器规格

组件
最低
推荐
注意事项

GPU

不需要

RTX 3090(如果运行本地 LLM)

仅在使用 Ollama/vLLM 后端时需要

显存

24 GB(RTX 3090)

用于本地模型推理

CPU

2 vCPU

4+ vCPU

LobeChat 本身很轻量

内存

2 GB

8 GB

如果使用数据库模式,需 4+ GB

存储

10 GB

50+ GB

如果存储上传的文件或模型则需更多空间

Clore.ai 价格参考

服务器类型
大致费用
模型变体

仅 CPU 实例

约 $0.05–0.10/小时

仅独立部署的 LobeChat

RTX 3090(24 GB 显存)

~$0.20/小时

LobeChat + Ollama 本地 LLMs

RTX 4090(24 GB 显存)

~$0.35/小时

LobeChat + 更快的本地推理

A100 80 GB

~$1.10/小时

LobeChat + 大型模型(70B+)

💡 提示: 对于仅使用 API(连接到 OpenAI、Anthropic 等),任何小型实例都可用。只有在你也想运行本地 LLM 时,GPU 服务器才有意义。参见 GPU 比较指南 了解详情。

先决条件

  • 已在 Clore.ai 部署服务器的账户

  • 对服务器的 SSH 访问

  • Docker 和 Docker Compose(Clore.ai 服务器上预装)

  • NVIDIA 驱动(预装;仅在使用本地 LLM 后端时相关)

  • 至少一个 API 密钥(OpenAI、Anthropic 等) 一个本地 Ollama 实例


快速开始

选项 A:独立模式(推荐用于入门)

独立模式将 LobeChat 作为单个容器运行。设置和对话历史存储在浏览器的本地存储中——无需数据库。

步骤 1:连接到你的 Clore.ai 服务器

步骤 2:拉取并运行 LobeChat

步骤 3:确认正在运行

步骤 4:访问界面

在浏览器中打开并访问:

⚠️ 安全提示: Clore.ai 服务器是公开可访问的。请考虑设置 ACCESS_CODE 以对你的实例进行密码保护(参见下文的配置部分)。


选项 B:支持多个提供商的独立模式

传入多个 API 密钥以同时支持不同提供商:


选项 C:使用本地 Ollama 后端

如果你在同一台 Clore.ai 服务器上运行 Ollama(参见 Ollama 指南):

在 Linux 上,替换 host-gateway 为实际的 Docker 网桥 IP,通常是 172.17.0.1:


选项 D:数据库模式(Docker Compose)

数据库模式启用持久的对话历史、多用户支持、文件上传到兼容 S3 的存储,以及完整的知识库。

步骤 1:创建项目目录

步骤 2:创建 docker-compose.yml

步骤 3:启动服务栈

步骤 4:创建 MinIO 存储桶


配置

环境变量参考

变量
4s
默认值

OPENAI_API_KEY

OpenAI API 密钥

OPENAI_PROXY_URL

自定义兼容 OpenAI 的端点

https://api.openai.com/v1

ANTHROPIC_API_KEY

Anthropic Claude API 密钥

GOOGLE_API_KEY

Google Gemini API 密钥

MISTRAL_API_KEY

Mistral AI API 密钥

OLLAMA_PROXY_URL

本地 Ollama 实例的 URL

ACCESS_CODE

用于保护界面的密码

DEFAULT_AGENT_CONFIG

默认助手行为的 JSON 配置

FEATURE_FLAGS

启用/禁用特定功能的开关

启用特定功能

启用网页搜索插件:

启用文本转语音:

为默认代理设置自定义系统提示:

更新 LobeChat

对于 Docker Compose:


GPU 加速

LobeChat 本身并不 工作方式:/api/generate 要求 GPU。然而,当在 Clore.ai 上与加速 GPU 后端配合时,你可以获得本地的、私有的 LLM 推理:

与 vLLM 配合(高性能推理)

参见 vLLM 指南 以获取完整设置。快速集成:

资源使用情况

后端
GPU 显存使用
大致吞吐量

Ollama(Llama 3.2 3B)

约 2 GB

在 3090 上约 50–80 tokens/sec

Ollama(Llama 3.1 8B)

~6 GB

在 3090 上约 40–60 tokens/sec

vLLM(Llama 3.1 8B)

~16 GB

在 3090 上约 80–150 tokens/sec

vLLM(Llama 3.1 70B)

约 80 GB

在 A100 80GB 上约 20–40 tokens/sec


提示与最佳实践

成本优化

  • 闲置时请停止你的服务器。 Clore.ai 按小时收费——使用仪表板暂停你未主动使用的实例。

  • 个人使用请用独立模式。 除非你需要多用户支持或持久的服务器端历史记录,否则独立模式可以避免 PostgreSQL 和 MinIO 的开销。

  • 对于大型模型使用 API 提供商。 通过外部 API 路由 Claude 或 GPT-4 请求比偶尔租用 H100 更便宜。

安全性

  • 切勿在公共 IP 上暴露 LobeChat 而不设置 ACCESS_CODE

  • 如果长期运行,考虑使用带 HTTPS 的 Nginx 反向代理。

  • 如果怀疑密钥泄露,请更换 API 密钥。

background = Image.open("studio_bg.jpg")

  • 对于有 10+ 并发用户的数据库模式,请确保主机至少有 8 GB 内存。

  • MinIO 在使用 SSD 支持的存储(Clore.ai NVMe 实例)时表现更佳。

Clore.ai 会话之间的持久性

由于 Clore.ai 服务器可能被终止:

定期从界面中的 设置 → 数据导出 导出对话。


# 使用固定种子以获得一致结果

容器无法启动

无法从 LobeChat 连接到 Ollama

数据库连接错误(数据库模式)

图片/文件无法上传(数据库模式)

内存不足错误


延伸阅读

最后更新于

这有帮助吗?