概览
在 Clore.ai GPU 服务器上部署 AI 智能体平台、助手和工作流构建器——从自主编码智能体到可视化 AI 工作流构建器。
概览
AI 领域已经爆发式增长,涌现出许多超越简单模型推理的强大平台。从能够编写代码和解决问题的自主智能体,到无需编码即可创建 AI 应用的可视化工作流构建器,再到可媲美商业产品的全功能聊天界面——这些都可以在 Clore.ai 的 GPU 基础设施上自托管。
本节涵盖 三类 AI 平台:
🤖 AI 智能体框架
可以规划、执行任务、编写代码并与工具交互的自主智能体:
🔧 AI 工作流构建器
用于构建 AI 应用和自动化流程的可视化和低代码平台:
💬 自托管 AI 助手
功能完整的聊天界面和 AI 助手平台:
💻 AI 编码工具
用于 AI 驱动的代码补全、审查和开发的工具:
其他部分已涵盖: Open WebUI, LocalAI, Text Generation WebUI, TabbyML, Aider
为什么要在 Clore.ai 上运行 AI 平台?
💰 成本效率
大多数 AI 智能体平台本身都很轻量(仅需 CPU),但当它们连接到本地 GPU 加速的 LLM 后就会变得非常强大。在 Clore.ai 上,你可以以每小时 0.14–0.42 美元的价格租用 RTX 4090——对于重负载工作来说,这只是云 API 成本的一小部分。
🐳 原生 Docker
本节中的每个平台都支持 Docker 部署。Clore.ai 服务器预装了 Docker 和 NVIDIA 驱动,因此你可以在几分钟内启动并运行。
🔒 数据隐私
自托管意味着你的数据、提示词和对话永远不会离开你租用的服务器。非常适合企业和注重隐私的用户。
⚡ 灵活架构
在同一台服务器上运行 AI 平台和 LLM,或者将它们拆分到不同机器上。先使用基于 API 的模型进行快速实验,再切换到本地模型用于生产环境。
常见模式
模式 1:AI 平台 + 云端 API
在 Clore.ai 上租用一台便宜的 CPU 服务器,部署你的平台(Dify、n8n 等),并连接到 OpenAI/Anthropic API。对于轻量使用,这是最低成本方案。
模式 2:AI 平台 + 本地 LLM(同一服务器)
租用一台 GPU 服务器,在同一台机器上同时运行平台和 Ollama/vLLM。最适合隐私和稳定性能。
模式 3:AI 平台 + 专用 LLM 服务器
在一台服务器上运行平台,在另一台独立的 GPU 服务器上运行 LLM。最适合扩展和团队使用。
快速参考
入门指南
选择你的平台 来自上面的指南
按照指南操作 — 大多数平台都可以通过一个
docker compose up
最后更新于
这有帮助吗?