概览

在 Clore.ai GPU 上自托管的 AI 编程工具

在 Clore.ai 上租用 GPU，通过 Ollama 或 vLLM 运行本地 LLM，并连接一个编程助手——你将获得一个完全 私有的 AI 开发环境 你的代码永远不会离开机器。无需管理 API 密钥，没有 token 限制，也不会向第三方服务器发送数据。

工作原理

Clore.ai GPU  →  Ollama / vLLM（本地 LLM）  →  编程工具（Aider、TabbyML）
                     ↑                              ↑
              RTX 4090 / A100               通过 localhost:11434 或 :8000 连接

1. 租用 GPU 于 clore.ai/marketplace — RTX 3090（$0.07–0.21/小时）或 RTX 4090（$0.14–0.42/小时）

2. 部署 LLM — ollama run deepseek-r1:32b 或者用任何面向编程的模型启动 vLLM

3. 启动你的编程工具 — 它通过 localhost 与 LLM 通信，完成代码、编写测试并进行重构

可用指南

指南	工具	描述
Aider	Aider	基于终端的 AI 结对编程助手——可通过自然语言直接编辑你仓库中的文件
TabbyML	Tabby	自托管代码补全服务器，支持 IDE 扩展（VS Code、JetBrains）

为什么要在 Clore.ai 上自托管？

• 隐私 — 你的代码库保留在租用的实例上，而不是 OpenAI/Anthropic 的服务器上

• 无速率限制 — 以 GPU 速度进行无限次补全

• 成本可控 — 按小时/天付费，空闲时可关停

• 模型选择 — 运行任何开源模型：DeepSeek-R1、Qwen 2.5 Coder、CodeLlama、StarCoder2