Dify.ai 工作流平台

在 Clore.ai 上部署 Dify.ai——以 GPU 云价格，通过可视化界面构建可投入生产的 AI 工作流、RAG 流水线和智能体应用。

概览

Dify.ai 是一个开源的 LLM 应用开发平台，拥有 114K+ GitHub 星标。它将可视化工作流构建器、检索增强生成（RAG）流水线、智能体编排、模型管理以及一键 API 部署层整合到一个可自托管的技术栈中。

在 Clore.ai 你可以在租用的 GPU 服务器上运行完整的 Dify 技术栈——包括其 Postgres 数据库、Redis 缓存、Weaviate 向量存储、Nginx 反向代理、API worker 和 Web 前端——最低只需 $0.07–0.21/小时 （RTX 3090/4090）。GPU 对 Dify 本身是可选的，但当你通过 Ollama 或 vLLM 后端集成本地模型推理时，它就变得至关重要。

主要能力：

• 🔄 可视化工作流构建器 — 支持分支、循环和条件逻辑的拖放式 LLM 流水线

• 📚 RAG 流水线 — 上传 PDF、URL、Notion 页面；分块 + 向量化 + 检索全部在 UI 中管理

• 🤖 智能体模式 — 具备工具使用能力的 ReAct 和函数调用型智能体（网页搜索、代码解释器、自定义 API）

• 🚀 以 API 为先 — 每个应用都会立即生成 REST 端点和 SDK 代码片段

• 🔌 100+ 模型集成 — OpenAI、Anthropic、Mistral、Cohere，以及通过 Ollama/vLLM 使用的本地模型

• 🏢 多租户 — 团队、工作区、RBAC、使用配额

---

需求

Clore.ai 市场上未列出多 GPU 的 80GB 级机型。 目前列出的最大配置是 4× RTX PRO 6000 Blackwell（每张 96GB，共 380GB）以及 8–11× RTX 5090（每张 32GB）。A100 / H200 / B200 容量可按 裸机 需求提供。部署前请查看 GPU 价格与可用性 。

Dify 作为一个多容器 Docker Compose 技术栈运行。开发所需的最低可用服务器是仅 CPU 实例；对于包含本地模型推理的生产环境，你需要一台 GPU 节点。

配置	GPU	显存	系统内存	磁盘	Clore.ai 价格
极小 （仅限 API 密钥）	无 / CPU	—	8 GB	30 GB	~$0.05/小时（CPU）
标准	RTX 3080	10 GB	16 GB	50 GB	$0.05–0.19/小时
推荐	RTX 3090 / 4090	24 GB	32 GB	80 GB	$0.07–0.21/小时
生产环境 + 本地 LLM	A100 80 GB	80 GB	64 GB	200 GB	裸机
高吞吐量	H100 SXM	80 GB	128 GB	500 GB	~$1.04/小时

提示： 如果你只使用云端 API 提供商（OpenAI、Anthropic 等），任何 2 核 CPU、8 GB 内存的实例都可以。只有在通过 Ollama 或 vLLM 运行本地模型时，GPU 才重要——请看 GPU 加速 下文。

磁盘说明

随着文档上传，Weaviate 和 Postgres 的数据会快速增长。请至少配置 50 GB 并通过 Clore.ai 的卷选项挂载持久存储。

---

快速开始

1. 租用一台 Clore.ai 服务器

访问 clore.ai，按你想要的 GPU 进行筛选，并部署一台具备以下条件的服务器：

• Docker 已预装（所有 Clore 镜像都包含它）

• 暴露端口 80 以及 443 （如有需要，可在报价设置中添加自定义端口）

• 已启用 SSH 访问

2. 连接并准备服务器

# SSH 登录到你的 Clore 服务器
ssh root@<clore-server-ip> -p <ssh-port>

# 更新系统软件包
apt-get update && apt-get upgrade -y

# 验证 Docker 是否可用
docker --version
docker compose version   # 应该是 v2.x

3. 克隆 Dify 并启动

# 克隆仓库
git clone https://github.com/langgenius/dify.git
cd dify/docker

# 复制示例环境文件
cp .env.example .env

# （可选）在启动前编辑设置
nano .env

# 拉取所有镜像并在后台启动所有服务
docker compose up -d

# 在启动期间查看日志（首次运行需要 2-3 分钟）
docker compose logs -f

4. 验证所有服务是否正常

# 检查容器状态
docker compose ps

# 预期输出：
# 名称                    状态
# docker-api-1            正常运行（健康）
# docker-web-1            正常运行（健康）
# docker-worker-1         正常运行（健康）
# docker-nginx-1          正常运行
# docker-db-1             正常运行（健康）
# docker-redis-1          正常运行（健康）
# docker-weaviate-1       正常运行（健康）
# docker-sandbox-1        正常运行（健康）

5. 访问 Web 界面

打开浏览器并访问：

http://<clore-server-ip>:80

首次启动时，Dify 会重定向到设置向导以创建管理员账户。完成向导后登录。

---

配置

所有配置都位于 dify/docker/.env。以下是最重要的设置：

必要环境变量

# ── 密钥（请修改这些） ──────────────────────────────────────────────
SECRET_KEY=your-super-secret-key-change-this-immediately
# 生成一个强密钥：
# python3 -c "import secrets; print(secrets.token_hex(32))"

# ── 应用 URL ──────────────────────────────────────────────────────────
# 设置为你的服务器公网 IP 或域名
CONSOLE_WEB_URL=http://<clore-server-ip>
APP_WEB_URL=http://<clore-server-ip>

# ── 数据库（Postgres） ─────────────────────────────────────────────────────
DB_USERNAME=postgres
DB_PASSWORD=difyai123456          # 生产环境中请修改！
DB_HOST=db
DB_PORT=5432
DB_DATABASE=dify

# ── Redis ───────────────────────────────────────────────────────────────────
REDIS_HOST=redis
REDIS_PORT=6379
REDIS_PASSWORD=difyai123456       # 生产环境中请修改！

# ── 存储（默认使用本地磁盘） ─────────────────────────────────────────
STORAGE_TYPE=local
# 或使用兼容 S3 的存储：
# STORAGE_TYPE=s3
# S3_ENDPOINT=https://s3.amazonaws.com
# S3_BUCKET_NAME=your-dify-bucket
# S3_ACCESS_KEY=...
# S3_SECRET_KEY=...

# ── 默认 LLM 提供商 ─────────────────────────────────────────────────────
# 登录后可在 UI 中设置，或在此预先配置：
# OPENAI_API_KEY=sk-...

更改对外暴露的端口

默认情况下 Nginx 监听端口 80。要更改它：

# 在 docker-compose.yaml 中编辑 nginx 服务：
# ports:
#   - "8080:80"   ← 将 8080 改为你想要的主机端口

# 然后重启：
docker compose down && docker compose up -d

持久化数据卷

Dify 的 Compose 文件默认挂载这些卷：

volumes:
  oradata:          # Postgres 数据
  redis_data:       # Redis AOF
  weaviate_data:    # 向量存储
  app_storage:      # 上传的文档和生成的文件

要备份：

# 先停止服务，再将 Docker 卷打包
docker compose stop
docker run --rm \\
  -v docker_oradata:/data \\
  -v $(pwd)/backups:/backup \\
  alpine tar czf /backup/postgres-$(date +%Y%m%d).tar.gz /data
docker compose start

---

GPU 加速

Dify 的核心平台基于 CPU，但你可以通过集成 Ollama 或 vLLM 作为模型提供商来解锁本地模型推理——这两者都能从 GPU 中获得巨大收益。

选项 A：Ollama 侧车（最简单）

在同一台 Clore 服务器上与 Dify 一起运行 Ollama：

# 安装 Ollama
curl -fsSL https://ollama.com/install.sh | sh

# 拉取一个模型（例如 Llama 3 8B）
ollama pull llama3:8b

# 验证是否使用了 GPU
ollama run llama3:8b "Hello!"
nvidia-smi   # 应显示 ollama 进程正在使用显存

然后在 Dify UI → 设置 → 模型提供商 → Ollama:

• 基础 URL： http://localhost:11434

• 选择你的模型并保存

完整的 Ollama 指南请参见 language-models/ollama.md.

选项 B：vLLM 侧车（高吞吐量）

# 将 vLLM 作为独立容器运行，并启用 GPU 直通
docker run -d \\
  --name vllm \
  --gpus all \\
  --runtime nvidia \\
  -p 8000:8000 \
  -v ~/.cache/huggingface:/root/.cache/huggingface \\
  -e HUGGING_FACE_HUB_TOKEN=<your-hf-token> \\
  vllm/vllm-openai:latest \
  --model mistralai/Mistral-7B-Instruct-v0.2 \\
  --dtype auto \\
  --max-model-len 4096

# 验证端点
curl http://localhost:8000/v1/models

然后在 Dify UI → 设置 → 模型提供商 → 兼容 OpenAI:

• 基础 URL： http://localhost:8000/v1

• API 密钥： dummy

• 模型名称： mistralai/Mistral-7B-Instruct-v0.2

完整的 vLLM 配置请参见 language-models/vllm.md.

本地模型的 GPU 显存建议

模型	所需显存	推荐的 Clore GPU
Llama 3 8B (Q4)	6 GB	RTX 3060
Llama 3 8B (FP16)	16 GB	RTX 3090 / 4090
Mistral 7B (Q4)	5 GB	RTX 3060
Llama 3 70B (Q4)	40 GB	A100 40GB
Llama 3 70B (FP16)	140 GB	2× H100

---

提示与最佳实践

在 Clore.ai 上优化成本

# 使用现货定价——Dify 的数据库状态保存在卷中
# 因此你可以低成本地停止/重启实例

# 在停止 Clore 实例之前，先导出数据库：
docker exec docker-db-1 pg_dump -U postgres dify > dify_backup_$(date +%Y%m%d).sql

# 压缩存储卷以便传输
tar czf dify_storage_$(date +%Y%m%d).tar.gz \\
  $(docker volume inspect docker_app_storage --format '{{.Mountpoint}}')

使用 Caddy 启用 HTTPS（推荐用于生产环境）

# 将 Caddy 添加到 docker-compose.yaml，或单独运行
docker run -d \\
  --name caddy \\
  --network docker_default \\
  -p 443:443 -p 80:80 \\
  -v $PWD/Caddyfile:/etc/caddy/Caddyfile \\
  -v caddy_data:/data \\
  caddy:latest

# Caddyfile 内容：
# your-domain.com {
#     reverse_proxy nginx:80
# }

为高负载扩展 worker

# 运行 4 个 celery worker，而不是 1 个
docker compose up -d --scale worker=4

监控资源使用情况

# 实时容器状态
docker stats

# GPU 利用率（如果使用本地模型）
watch -n1 nvidia-smi

# Dify 应用日志
docker compose logs -f api worker

RAG 性能调优

• 设置 分块大小 设置为 512–1024 个 token，适用于大多数文档类型

• 启用 父子检索 用于数据集设置中的长文档

• 使用 混合搜索 （关键词 + 向量）以提升技术内容的召回率

• 在低峰时段为文档建立索引，以避免 API 限流

---

故障排查

服务不断重启

# 检查出错服务的日志
docker compose logs --tail=50 api
docker compose logs --tail=50 worker

# 常见原因：SECRET_KEY 错误或数据库连接异常
# 确保 .env 中的 SECRET_KEY 已设置且唯一
grep SECRET_KEY .env

启动时出现“迁移失败”

# 手动运行数据库迁移
docker compose exec api flask db upgrade

# 如果失败，先检查 Postgres 是否处于健康状态
docker compose exec db pg_isready -U postgres

Dify 无法连接到 Ollama

# Ollama 默认绑定到 127.0.0.1
# 将其改为监听所有接口：
OLLAMA_HOST=0.0.0.0 ollama serve

# 或者编辑 systemd 服务：
systemctl edit ollama
# 添加到 [Service] 下：
# Environment="OLLAMA_HOST=0.0.0.0"
systemctl restart ollama

# 从 Dify 容器内部测试：
docker compose exec api curl http://host.docker.internal:11434/api/tags

磁盘空间不足

# 检查卷大小
df -h
docker system df

# 删除未使用的镜像
docker image prune -a

# Weaviate 日志可能会变得很大——请轮转它们
docker compose exec weaviate truncate -s 0 /tmp/weaviate.log

Weaviate 向量存储错误

# 重置 Weaviate（警告：会删除所有嵌入，需要重新索引）
docker compose stop weaviate
docker volume rm docker_weaviate_data
docker compose up -d weaviate

# 然后在 Dify UI → Datasets → [dataset] → Re-index 中重新索引你的数据集

端口 80 已被占用

# 查找正在使用端口 80 的进程
ss -tlnp | grep :80
# 或
lsof -i :80

# 停止冲突服务，或在 docker-compose.yaml 中更改 Dify 的 nginx 端口

---

延伸阅读

• Dify 官方文档

• Dify GitHub 仓库

• Dify 自托管指南

• 在 Clore.ai 上运行 Ollama

• 在 Clore.ai 上运行 vLLM

• Clore.ai GPU 对比

• Dify 社区 Discord